匡衡字稚圭，東海承人也。父世農夫，至衡好學，家貧，庸作以供資用，尤精力過絕人。諸儒為之語曰：“無說《詩》，匡鼎來；匡語《詩》，解人頤。”
衡射策甲科，以不應令除為太常掌故，調補平原文學。學者多上書薦衡經明，當世少雙，令為文學就官京師；後進皆欲從衡平原，衡不宜在遠方。事下太子太傅蕭望之、少府梁丘賀問，衡對《詩》諸大義，其對深美。望之奏衡經學精習，說有師道，可觀覽。宣帝不甚用儒，遣衡歸官。而皇太子見衡對，私善之。
會宣帝崩，元帝初即位，樂陵侯史高以外屬為大司馬車騎將軍，領尚書事，前將軍蕭望之為副。望之名儒，有師傅舊恩，天子任之，多所貢薦。高充位而已，與望之有隙。長安令楊興說高曰：“將軍以親戚輔政，貴重於天下無二，然眾庶論議令問休譽不專在將軍者何也？彼誠有所聞也。以將軍之莫府，海內莫不卬望。而所舉不過私門賓客，乳母子弟，人情忽不自知，然一夫竊議，語流天下。夫富貴在身而列士不譽，是有狐白之裘而反衣之也。古人病其若此，故卑體勞心，以求賢為務。傳曰：以賢難得之故因曰事不待賢，以食難得之故而曰飽不待食，或之甚者也。平原文學匡衡材智有餘，經學絕倫，但以無階朝廷，故隨牒在遠方。將軍誠召置莫府，學士歙然歸仁，與參事議，觀其所有，貢之朝廷，必為國器，以此顯示眾庶，名流於世。”高然其言，辟衡為議曹史，薦衡於上，上以為郎中，遷博士，給事中。
是時，有日蝕、地震之變，上問以政治得失，衡上疏曰：
臣聞五帝不同禮，三王各異教，民俗殊務，所遇之時異也。陛下躬聖德，開太平之路，閔愚吏民觸法抵禁，比年大赦，使百姓得改行自新，天下幸甚。臣竊見大赦之後，奸邪不為衰止，今日大赦，明日犯法，相隨入獄，此殆導之未得其務也。蓋保民者，“陳之以德義”，“示之以好惡”，觀其失而制其宜，故動之而和，綏之而安。今天下俗貪財賤義，好聲色，上侈靡，廉恥之節薄，淫辟之意縱，綱紀失序，疏者逾內，親戚之恩薄，婚姻之黨隆，苟合僥倖，以身設利。不改其原，雖歲赦之，刑猶難使錯而不用也。
臣愚以為宜一曠然大變其俗。孔子曰：“能以禮讓為國乎，何有？”朝廷者，天下之楨幹也。公卿大夫相與循禮恭讓，則民不爭；好仁樂施，則下不暴；上義高節，則民興行；寬柔和惠，則眾相愛。四者，明王之所以不嚴而成化也。何者？朝有變色之言，則下有爭鬥之患；上有自專之士，則下有不讓之人；上有克勝之佐，則下有傷害之心；上有好利之臣，則下有盜竊之民：此其本也。今俗吏之治，皆不本禮讓，而上克暴，或忮害好陷人於罪，貪財而慕勢，故犯法者眾，奸邪不止，雖嚴刑峻法，猶不為變。此非其天性，有由然也。
臣竊考《國風》之詩，《周南》、《召南》被賢聖之化深，故篤於行而廉於色。鄭伯好勇，而國人暴虎；秦穆貴信，而士多從死；陳夫人好巫，而民淫祀；晉侯好儉，而民畜聚；太王躬仁，邠國貴恕。由此觀之，治天下者審所上而已。今之偽薄忮害，不讓極矣。臣聞教化之流，非家至而人說之也。賢者在位，能者布職，朝廷崇禮，百僚敬讓，道德之行，由內及外，自近者始，然後民知所法，遷善日進而不自知。是以百姓安，陰陽和，神靈應，而嘉祥見。《詩》曰：“商邑翼翼，四方之極；壽考且寧，以保我後生”此成湯所以建至治，保子孫，化異俗而懷鬼方也。今長安天子之都，親承聖化，然其習俗無以異於遠方，郡國來者無所法則，或見侈靡而放效之。此教化之原本，風俗之樞機，宜先正者也。
臣聞天人之際，精祲有以相盪，善惡有以相推，事作乎下者象動乎上，陰陽之理各應其感，陰變則靜者動，陽蔽則明者暗，水旱之災隨類而至。今關東連年饑饉，百姓乏困，或至相食，此皆生於賦斂多，民所共者大，而吏安集之不稱之效也。陛下祗畏天戒，哀閔元元，大自減損，省甘泉、建章官衛，罷珠崖，偃武行文，將欲度唐、虞之隆，絕殷、周之衰也。諸見罷珠崖詔書者，莫不欣欣，人自以將見太平也。宜遂減官室之度，省靡麗之飾，考制度，修外內，近忠正，遠巧佞，放鄭、衛，進《雅》、《頌》，舉異材，開直言，任溫良之人，退刻薄之吏，顯潔白之士，昭無欲之路，覽《六藝》之意，察上世之務，明自然之道，博和睦之化，以崇至仁，匡失俗，易民視，令海內昭然鹹見本朝之所貴，道德弘於京師，淑問揚乎疆外，然後大化可成，禮讓可興也。