唐麟德二年（665年），置潭栗縣，隸鬱州，治今鎮(zhèn)古城村。

次年，潭栗縣改屬鬱林州。

唐天寶元年（742年），潭栗縣改屬鬱林郡。

唐德三年（758年），潭栗縣復(fù)改屬鬱林州。

宋開(kāi)寶五年（972年），潭栗縣并入興業(yè)縣。

民國(guó)元年（1912年），后分屬鬱林縣大平山鄉(xiāng)和興業(yè)縣大平山鄉(xiāng)。

1950年6月，分屬鬱林縣第九區(qū)和興業(yè)縣第一區(qū)。

1953年，設(shè)第八區(qū)，屬鬱林縣。

1955年9月，第八區(qū)改為大平山區(qū)屬鬱林縣。

1956年3月，大平山區(qū)改屬玉林縣。

次年12月，大平山區(qū)析為大平山、龍安兩鄉(xiāng)，同屬玉林縣。

1958年10月，設(shè)三山公社，屬玉林縣。

1964年，析陳村公社為大平山、龍安兩公社，同屬玉林縣。

1984年10月，大平山、龍安兩公社撤改為大平山鄉(xiāng)，屬玉林市。

1990年12月，大平山力改大平山鎮(zhèn)。

1997年4月，大平山鎮(zhèn)劃歸興業(yè)縣。