今汶上縣境內(nèi)約在15000年前，即有華夏先民在此繁衍聚居。位于城東3千米的東賈柏遺址，是濟寧境內(nèi)已發(fā)現(xiàn)的最早的新時器時代人類文化遺址，距今約7000年左右，是北辛文化的重要代表，屬于原始社會母系氏族公社的發(fā)展階段。

　　至商代，境內(nèi)置厥國。周代，先后置郕國，中都邑、闞邑，周武王封同母弟叔武于郕，公元前501年，魯“定公以孔子為中都宰“。戰(zhàn)國時，齊置平陸邑。

　　秦統(tǒng)一中國，行郡縣制，縣境內(nèi)約分屬薛郡的張縣（治邑在今東平縣霍莊）、無鹽縣（治邑在今東平縣無鹽村）。

　　漢宣帝甘露二年（前52年）前后，境內(nèi)始置東平陸縣，隸屬兗州東平國。此為汶上建縣之始。

　　三國魏晉，今縣境統(tǒng)屬兗州東平國（郡）東平陸縣。南朝時改稱平陸縣、樂平縣。隨初仍稱平陸縣。

　　唐天寶元年（742）三月，改稱中都縣，移縣城于今治。

　　金貞元元年（1153年）更名汶陽縣。金泰和八年（1208年），取”汶水在上（北）”之意，更名汶上縣，此為“汶上”專用地名之始，沿用至今。

疆域：

　　明萬歷年間，汶上境域，北至東平界沙河站村，東至寧陽縣界西梳村，南至濟寧州界康莊驛，西至鄆城縣界肖皮口，西北至安山西面的張博士集（今屬梁山縣），西南至孟姑集以西申家海（今屬嘉祥縣），東南至南唐陽，東北至琵琶山。最大橫距75公里，最大縱距35公里。此縣界明清時穩(wěn)定時間較長，境域也較大，約為今縣境的2.5倍。

　　民國時期，全縣面積1380平方公里，為山東省較大縣之一，曾有“一滕二曹三汶上"之說。

　　現(xiàn)在，全且面積877平方公里，南北最大縱距58公里，東西最大橫距35公里，東臨兗州、寧陽，西連梁山、嘉祥，南與濟寧市任城區(qū)接壤，北枕大運河,與肥城、東平相望。