原為牟平縣轄地。

1941年屬牟海行政公署第二區(qū)。

1942年，屬第三區(qū)。

1945年，屬乳山縣黃山區(qū)。

1951年，區(qū)下設(shè)鄉(xiāng)，轄區(qū)設(shè)胡家、萬戶、大史家、小史家、上冊(cè)、八里甸、上夼、林家、店子頭9鄉(xiāng)。

1956年，合并為孤山、萬戶、上冊(cè)三鄉(xiāng)，屬黃山區(qū)。

1957年7月，撤區(qū)，3鄉(xiāng)直接屬縣。

1958年2至7月，上冊(cè)鄉(xiāng)、萬戶鄉(xiāng)先后并入大孤山鄉(xiāng)；9月成立上冊(cè)人民公社；12月，乳山縣建制撤銷，劃歸煙臺(tái)市。

1960年3月，改屬牟平縣。

1961年10月，重設(shè)乳山縣后，復(fù)屬乳山縣。

1981年，更名為大孤山人民公社。

1984年3月，改建為大孤山鄉(xiāng)。

1989年12月撤鄉(xiāng)，建大孤山鎮(zhèn)，至今。