唐、宋時期，稱末島。

宋時，屬蓬萊縣沙門寨地。

元、明時，與大欽島合稱欽島，屬蓬萊縣牽牛社。

清道光年間（1821年—1850年），屬欽島社。

民國元年（1912年）后，先后屬欽島社和欽島鄉(xiāng)。

民國三十四年（1945年），屬欽島區(qū)。

民國三十七年（1948年），屬欽島鄉(xiāng)。

1958年11月，長島縣并入蓬萊縣后，為長島公社欽島大隊。

1963年6月，復置長島縣，改設欽島公社。

1984年3月，撤銷欽島公社，設立欽島鄉(xiāng)。

1985年4月，從欽島鄉(xiāng)劃出小欽島，設立小欽島鄉(xiāng)。

2000年12月，撤銷小欽島鄉(xiāng)，設立小欽島區(qū)公所。

2003年2月，復設小欽島鄉(xiāng)。