據(jù)《山西通史》載，趙國國君趙武靈王最早在戰(zhàn)國時期建廣武古城，城址在今代州古城西7.5公里處的古城村。而彼時的代縣城被稱為上館城，是廣武古城的館驛之城，主要用來接待過往使團。至北魏熙平年間，由于大地震破壞，古城被迫遷至東面的上館城村，即今日的代州古城。

原名羊頭城。史載春秋晉大夫復姓羊舌，名恬字叔向，相傳巡行于此，有人奪羊以肉給叔向母，母埋之，故建羊舌大夫祠。廟塑有羊頭像俗稱其為羊頭城，因地處滹沱河之陽，1065年筑堡。后遂演變?yōu)殛柮鞅ぁ?/div>

因村南山形似鵝，又位處山口處，故名。

因金大定年間，聶姓大將在此扎營，故名。

因本地棗樹出名而命名。

因境內景點雁門關而得名。“雁門”一詞最早源于雁門山。最初的雁門山并非如今山西代縣的雁門山(句注山)，而是位于大同市陽高縣以北，大雁冬天從那里南飛，春天又飛回來，山因大雁而得名。

因居深峪口，故名峪口。

因鄉(xiāng)人民政府駐地位于新高村而得名。

因舊時官府在這里作過磨面作坊故名。