清朝時期屬蘄水縣下鄉(xiāng);民國時期屬第二區(qū);1955年農(nóng)業(yè)合作化時成立前進一社,屬大馬鄉(xiāng);1958年人民公社化后定名大馬一大隊,屬蔡河區(qū);1974年撤區(qū)并社后改名晶山大隊;1976年與大馬、紅畈兩大隊合并,名大馬大隊;1979年大馬、紅畈兩大隊分開,以境內(nèi)山名古晶山定名古晶山大隊;1984年底恢復(fù)區(qū)、鄉(xiāng)、村建制,屬蔡河區(qū)大馬鄉(xiāng),原名稱古晶山大隊變更為古晶山村民委員會;1988年撤區(qū)建鄉(xiāng)屬蔡河鎮(zhèn);2001年合并鄉(xiāng)鎮(zhèn)屬蔡河鎮(zhèn)至今。