1955年始建；1955-1960年，屬于陳家灣街道管轄；1960-1962年，屬于冶鋼人民公社管轄；1962-1972年，屬于陳家灣人民公社管轄；1962-1979年，屬于陳家灣區(qū)管轄；1979-2001年，屬于石灰窯區(qū)石料山街道管轄；2001-2012年，屬于西塞山區(qū)澄月街道管轄；2012年，西塞山區(qū)落實大部制改革，撤銷澄月街道辦事處，石料山社區(qū)居民委員會重新整合，由原來的龔家巷社區(qū)居民委員會整體和石料山社區(qū)居民委員會整體合并組建；2012年，石料山社區(qū)直接歸西塞山區(qū)管轄。

2015年10月，設置牧羊湖片區(qū)，石料山社區(qū)居民委員會屬于牧羊湖片區(qū)；2019年1月，撤銷片區(qū)，設置牧羊湖街道辦事處，屬于牧羊湖街道至今。