南宋寶祐五年(1257)，宋理宗御批“荊山為城，義在懷遠”，置懷遠軍。

元至元二十八年(1291)廢軍，改為懷遠縣。

清代，懷遠縣屬安徽省鳳陽府。

1912年，懷遠縣直屬安徽省。

1914年，改屬淮泗道。

1928年，直屬安徽省。

1938年2月，懷遠縣境被日軍侵占。

1949年1月，懷遠縣全境解放，3月宿懷縣、懷遠縣合并為懷遠縣。

中華人民共和國成立后，懷遠縣仍屬于宿縣專區(qū)。

1983年7月，改屬蚌埠市，轄縣至今。