1950年2月,曾為鄉(xiāng)建制;1955年,全鄉(xiāng)建有光明、光輝、燈塔、愛國、聯(lián)合、豐產(chǎn)、民主、新華、勤儉、民生、勤一、勤勞12個初級農(nóng)村生產(chǎn)合作社;1957年下半年初級社合并建立黃山高級農(nóng)村生產(chǎn)合作社;1958年9月稱為長河人民公社黃山管理區(qū)黃山生產(chǎn)大隊(同時黃山鄉(xiāng)復名為黃山管理區(qū));1961年黃山管理區(qū)撤銷,稱為聞堰公社黃山生產(chǎn)大隊;1966年更名為紅旗大隊;1981年7月復稱為黃山大隊;1984年黃山村,名稱沿用至今。
原所轄的燕斗孫、潭頭村2個自然村于2009年注銷。