據(jù)《成武縣志》和古碑文載是古汶水乃古菏水一支流，南宋紹熙年間（1190—1194），創(chuàng)、黨、呂三氏傍河建村，后成集，故名汶上集，有“先有創(chuàng)黨二家，后有草坡呂家”的傳說(shuō)。

夏商時(shí)期本鎮(zhèn)屬三朡國(guó)古都所在地，周初屬古郜國(guó)后入宋，漢屬秺侯國(guó)，三國(guó)屬魏，北宋屬永昌郡，唐時(shí)屬戴州，五代至金屬單州成武，元代屬曹州，明代屬兗州府成武縣，清代屬濟(jì)寧府曹州成武縣。

1911年屬山東濟(jì)寧道成武所轄二十三集之一。

1935年屬成武縣第六區(qū)。

抗日戰(zhàn)爭(zhēng)時(shí)期，本鎮(zhèn)被日偽占領(lǐng)，屬偽山東省巨野縣管轄。

1942年9月隨著革命形勢(shì)的發(fā)展，革命根據(jù)地不斷擴(kuò)大，在此建立汶上集區(qū)，屬巨野抗日縣政府。

1946年3月屬巨南縣，1949年8月巨南縣撤銷(xiāo)，汶上集區(qū)劃歸成武，屬成武縣第六區(qū)管轄。

1950年在該集設(shè)平原省成武縣汶上集鄉(xiāng)。

1952年平原省撤銷(xiāo)，隨湖西專(zhuān)區(qū)改屬山東省。

1953年7月湖西專(zhuān)區(qū)撤銷(xiāo)，改屬菏澤專(zhuān)區(qū)成武縣第六區(qū)，駐地汶上集，轄17個(gè)鄉(xiāng)。

1958年菏澤專(zhuān)區(qū)撤銷(xiāo)，劃歸濟(jì)寧專(zhuān)區(qū)。

秋，初撤區(qū)并鄉(xiāng)時(shí)，劃出秦田莊、馬海、等13個(gè)大隊(duì)歸玉帝廟。

撤區(qū)后，汶上集改為鄉(xiāng)。

1958年秋，成立汶上集（七一）人民公社，轄35個(gè)大隊(duì)，74個(gè)自然村。

1959年恢復(fù)菏澤專(zhuān)區(qū)，成武縣汶上集鎮(zhèn)隨屬。

1962年初至1978年底，汶上集是成武縣10處公社之一，1979年公社體制變動(dòng)時(shí)，將燕莊、邱海、孫莊、丁樓自然村劃歸寶峰公社。

1981年12月所有公社分別改為鄉(xiāng)或鎮(zhèn)。

1983年經(jīng)省政府批準(zhǔn)設(shè)立汶上集鎮(zhèn)，又將本鎮(zhèn)的徐莊、水路店等15個(gè)大隊(duì)，24個(gè)自然村劃歸徐莊鄉(xiāng)。

1988年5月，徐莊鄉(xiāng)撤銷(xiāo)，又并入本鎮(zhèn)，大隊(duì)改建成37個(gè)行政村。

2001年，經(jīng)省政府批準(zhǔn)寶峰鄉(xiāng)劃歸汶上集鎮(zhèn)，至此汶上集鎮(zhèn)轄63個(gè)行政村，113個(gè)自然村。