夏、商、周屬白翟地。

秦屬上郡。

兩漢屬西河郡。

魏、晉屬赫連大夏。

北魏、北周屬上郡。

隋屬勝州。

唐屬麟州，稱折塘關。

五代屬府谷縣。

宋時先為百勝寨，后為孤山寨，屬府谷縣。

元屬府谷縣。

明正統(tǒng)二年（1437年），在今孤山鎮(zhèn)西十里的的軍溝村設孤山堡，屬府谷縣。

明成化二年（1466年），移至今孤山戴家石畔腳底。

明成化十一年（1475年），遷至今孤山城內。

清時繼稱孤山堡，屬府谷縣。

民國改稱天平鎮(zhèn)，屬府谷縣。

1950年6月，設立孤山區(qū)。

1958年9月，成立孤山公社。

1984年5月，改設為孤山鄉(xiāng)。

1997年11月，撤鄉(xiāng)建鎮(zhèn)。