清光緒二十二年，稱上冶社。

民國初年，屬費縣一區(qū)上冶鄉(xiāng)。

1940年以后，屬費北縣上冶社。

1945年底，費北、費東西縣合并蒙山縣，上冶屬蒙山縣五區(qū)。

1952年，撤銷蒙山縣，上冶劃屬費縣為十一區(qū)。

1955年，改稱上冶區(qū)。

1958年，改稱為上冶人民公社。

1962年，從原店子公社劃入2個鄉(xiāng)，改成上冶區(qū)。

1968年，又將上冶區(qū)改為上冶人民公社，并將下轄的9個小人民公社改為管理區(qū)。

1976年，將北部27個大隊、68個自然村劃出，設置五圣公社。

1984年5月，設上冶區(qū)，下轄5個鄉(xiāng)。

1985年9月，撤區(qū)設鎮(zhèn)，稱上冶鎮(zhèn)。