中国古史相传的“三皇五帝”中，有四人曾在曲阜留下了活动的踪迹，开创了发达的古代文明。
公元前二十一世纪前后，曲阜属上古尧舜时代九大部洲之一的徐州域。公元前十六世纪后的商代，曲阜为奄国国都，并一度成为商王朝的都城。公元前1066年，西周武王伐纣灭商，武王将其胞弟、王国宰辅周公旦封于故奄地曲阜，立国为“鲁”。
鲁国是曲阜历史上的黄金时期，是当时除周王朝首都镐京外全国文化最发达的城市。特别是春秋末年，著名思想家、教育家孔子在鲁国聚徒讲学，鲁国俨然成了全国的教育中心。鲁国文化高度发达，所以人们至今仍用“鲁”作为山东省的简称。
公元前223年，秦灭楚，鲁县入于秦，秦始皇二十六年(公元前221年)统一中国，始实行郡县制，鲁薛郡，郡治设在曲阜，隶徐州部。
汉景帝三年(公元前154年)皇帝刘启改封皇子、淮南王刘余为鲁王，以鲁县为国都。鲁王在鲁南宫泮水以北周鲁故宫废址上兴建规模庞大、雄伟豪华的鲁王宫建筑群，为在扩大王宫的面积，在拆除阙里孔子旧宅中发现孔鲋所藏《尚书》、《论语》、《诗经》《仪礼》等古文经书竹简，得以使孔子思想流传推广。
隋文帝开皇四年(584年)诏改鲁县为“汶阳”，自鲁国灭亡改为鲁县，至是年止，曲阜以“鲁”为县名，历时长达833年。开皇十六年诏改县名为“曲阜”，“曲阜”一名，作为地理名词历数千年，一直沿用至今。
隋唐五代之时，曲阜虽不再是鲁南的行政中心，但因其为“圣人”孔子故里而依然受到重视。通过“贞观之治”和“开元盛世”，曲阜的文化、经济也空前发达。晚唐之际仅孔家就出了六位状元和十四名进士。
宋仙源县城是曲阜有史以来继周、汉鲁城之后的第三座古城。由于宋王朝崇儒重道，致使朝拜黄帝、少昊、周公、孔子的文武大臣和学者络绎不绝，文化气氛十分醇浓。期间赐孔庙文宣王殿名为“大成殿”，于孔子墓前造立石仪。大修少昊陵立“万人愁”石碑。宋高宗建炎二年(1129年)，金兵入侵，将北宋王朝在曲阜建造的仙源县治及宫观、庙宇等建筑群及大批珍贵书籍化为灰烬，仙源县沦入金人统治之下，并恢复曲阜县旧名。
曲阜城在历史上曾有四次大的变迁。最后一次是在明代中期。正德六年(1571年)河北刘六、刘七率领的农民起义军“破曲阜、焚官寺民居数百，县治为墟”。明武宗朱厚诏令山东巡抚于鲁故城西南隅--以孔庙为中心重筑新县城，即现存明故城。
清代曲阜地方建制与明代略同。清皇帝累计10余次到曲阜“朝圣”，学者骚人竟相莅临曲阜，为曲阜留下难以胜纪的文化遗存。
