張?zhí)m鎮(zhèn)為西漢文帝中都舊址。

隋唐時期名張?zhí)m堡。

明初境內設南張里、北張里、田堡里、上梁里、下梁里、張原里、史村里。

明萬歷二十七年（1599），合里并甲，境內設南張里、張史里（張原里與史村里合并）、北堡里（北張里與田堡里合并）、東梁上下里（東神里與上里里、下里里、下梁里合并）。

清順治九年（1652），谷南興里與南張里合并為北谷里、北堡里與張史里合并為北史里。

清乾隆十七年設巡檢，乾隆二十二年置汾州府同知衙駐張?zhí)m，專管洪山水利事務。

1918年改為區(qū)村制，為第四區(qū)管轄。

1949年，屬一區(qū)人民政府，1953年6月，設張?zhí)m鄉(xiāng)，屬第一區(qū)。

1958年5月，張?zhí)m、北辛武2鄉(xiāng)合并為張?zhí)m鄉(xiāng)。

同年9月，并入躍進人民公社。

1959年3月，設張?zhí)m人民公社，1961年4月，三縣分設后，復設張?zhí)m公社。

1963年，張?zhí)m公社的東街、西街、南街、北街四個大隊合并為張?zhí)m大隊，張?zhí)m公社轄9個生產大隊。

1984年4月，政社分開，改稱張?zhí)m鄉(xiāng)。

同年9月，改稱張?zhí)m鎮(zhèn)，沿用至今。