泰山街道前身為泰山鎮(zhèn)和浦口街道，明代以前同屬六合縣孝義鄉(xiāng)。

明洪武四年（1371），建浦口城，洪武九年（1376）劃入江浦縣。

1927年，南門(mén)鎮(zhèn)(即古浦口城)從江浦縣劃出，改稱(chēng)南京市浦口商埠管理處；1937年，復(fù)屬江浦縣。

1950年，南門(mén)鎮(zhèn)和北鎮(zhèn)合并，成立浦口鎮(zhèn)。

1989年，東門(mén)鎮(zhèn)和三河鄉(xiāng)合并，命名泰山鎮(zhèn)；浦口鎮(zhèn)改稱(chēng)浦口街道。

2002年11月，撤銷(xiāo)泰山鎮(zhèn)、浦口街道建制，以原兩鎮(zhèn)街所轄區(qū)域，成立南京市浦口區(qū)泰山街道，地名沿用至今。

1963年，頂山人民公社從鋪鎮(zhèn)人民公社分出；1983年，撤社建鄉(xiāng)，成立頂山鄉(xiāng)；1989年，撤鄉(xiāng)設(shè)鎮(zhèn)，成立頂山鎮(zhèn)；2002年，撤銷(xiāo)頂山鎮(zhèn)建制，設(shè)立南京市浦口區(qū)頂山街道，地名沿用至今。

1952年4月，由龍山鄉(xiāng)劃出今馮墻、路西、復(fù)興、新化、寶塔社區(qū)區(qū)域，成立沿江鄉(xiāng)，隸屬六合縣葛塘區(qū)；1956年2月，沿江鄉(xiāng)劃歸浦口區(qū)管轄；1958年8月，改稱(chēng)沿江人民公社；同年10月，易名為紅星人民公社；1960年3月，易名為卸甲甸人民公社；1961年8月，復(fù)稱(chēng)沿江人民公社；1983年10月，改稱(chēng)沿江鄉(xiāng)；1989年10月，改稱(chēng)沿江鎮(zhèn)；2002年12月，撤銷(xiāo)沿江鎮(zhèn)建制，成立南京市浦口區(qū)沿江街道，地名沿用至今。

西周靈王元年（公元前571年），地屬棠邑（今六合區(qū)）。

東晉隆安元年（379年），地屬尉氏縣。

隋開(kāi)皇四年（584年），置六合縣。

地屬六合縣。

北宋天圣年間，置盤(pán)城集。

元豐年間，置盤(pán)城鄉(xiāng)，為六合縣治所。

明嘉靖十年（1531年），隸屬六合縣上三都。

清光緒十年（1884年），隸屬六合縣上三都一圖。

民國(guó)元年（1912年），盤(pán)城鄉(xiāng)隸屬六合縣。

民國(guó)八年（1919年），六合縣建區(qū)，盤(pán)城鄉(xiāng)隸屬第三區(qū)。

民國(guó)二十三年（1934年），并編區(qū)、鄉(xiāng)、鎮(zhèn)。

盤(pán)城鄉(xiāng)改稱(chēng)龍山鄉(xiāng)，隸屬六合縣第四區(qū)。

民國(guó)三十六年（1947年），境內(nèi)設(shè)龍山鄉(xiāng)、新渡鄉(xiāng)、橋塘鄉(xiāng)。

1949年4月解放后，隸屬六合縣葛塘區(qū)。

1957年10月，撤區(qū)并鄉(xiāng)。

渡橋鄉(xiāng)并入龍山鄉(xiāng)，隸屬六合縣。

1958年9月，龍山鄉(xiāng)、葛塘鄉(xiāng)合并，建立八一人民公社。

1959年4月，撤銷(xiāo)八一人民公社，成立龍山人民公社、葛塘人民公社。

1960年2月26日，由六合縣劃出，隸屬南京市浦口區(qū)。

1961年6月，龍山人民公社更名為盤(pán)城人民公社。

1963年5月，劃小人民公社規(guī)模。

盤(pán)城人民公社劃分為盤(pán)城、永豐、橋塘、渡橋4個(gè)人民公社。

1965年7月，橋塘公社并入盤(pán)城公社，渡橋公社并入永豐公社。

1973年12月，成立南京市大廠區(qū)。

盤(pán)城公社由浦口區(qū)劃出，隸屬大廠區(qū)。

永豐公社仍隸屬浦口區(qū)。

1975年10月，盤(pán)城公社由大廠區(qū)劃出，恢復(fù)隸屬浦口區(qū)。

1983年5月，改人民公社政社合一體制為政社分設(shè)，恢復(fù)盤(pán)城鄉(xiāng)、永豐鄉(xiāng)建置。

1989年6月，撤銷(xiāo)盤(pán)城鄉(xiāng)，建立盤(pán)城鎮(zhèn)。

2002年11月，浦口區(qū)撤并鄉(xiāng)鎮(zhèn)。

永豐鄉(xiāng)并入盤(pán)城鎮(zhèn)，鎮(zhèn)政府駐盤(pán)城新街68號(hào)。

2007年12月，撤銷(xiāo)盤(pán)城鎮(zhèn)，設(shè)立南京市浦口區(qū)盤(pán)城街道，地名沿用至今。

1949年，為六合縣葛塘區(qū)。

1957年，撤區(qū)，設(shè)葛塘鄉(xiāng)。

1958年，與龍山鄉(xiāng)合并，建八一人民公社。

1959年，析分為盤(pán)城、葛塘兩人民公社。

1960年，葛塘人民公社劃屬南京市浦口區(qū)。

1980年，由浦口區(qū)劃入大廠區(qū)。

1983年，政社分設(shè)，改為置葛塘鄉(xiāng)。

1988年，撤鄉(xiāng)，設(shè)葛塘鎮(zhèn)。

2000年，撤葛塘鎮(zhèn)，改設(shè)葛塘街道。

2002年4月3日，屬六合區(qū)。

民國(guó)八年（1919年），為六合縣第三區(qū)。

1949年后，設(shè)長(zhǎng)蘆鄉(xiāng)，屬六合縣葛塘區(qū)。

1957年，撒區(qū)并鄉(xiāng)，為長(zhǎng)蘆鄉(xiāng)。

1963年3月，改為長(zhǎng)蘆人民公社。

1980年4月，劃入大廠區(qū)。

1983年，政社分設(shè)，改置長(zhǎng)蘆鄉(xiāng)。

1988年5月，撤鄉(xiāng)建鎮(zhèn)。

2000年7月，撤長(zhǎng)蘆鎮(zhèn)，設(shè)長(zhǎng)蘆街道。

2002年4月3日，屬六合區(qū)。

中華人民共和國(guó)成立初，南京市下設(shè)第十二區(qū)（大廠區(qū)）。

1953年，撤銷(xiāo)南京市第十二區(qū)，設(shè)立大廠鎮(zhèn)。

1958年，撤銷(xiāo)南京市大廠鎮(zhèn)，并入浦口區(qū)。

1980年，從浦口區(qū)析出，設(shè)立南京市大廠區(qū)。

2002年4月，撤銷(xiāo)南京市大廠區(qū)和六合縣，設(shè)立南京市六合區(qū)。

2012年7月，為保留大廠地名，撤銷(xiāo)山潘街道、卸甲甸街道、西廠門(mén)街道，合并設(shè)立大廠街道。

2017年8月，劃歸江北新區(qū)黨工委、管委會(huì)統(tǒng)一托管。