臣心一片磁針石，不指南方不肯休。1271年，忽必烈建立大元帝國。1274年，忽必烈派丞相伯顏率軍20萬再次侵宋。南宋雖然有兵70餘萬，但主幼臣奸，一觸即潰。文天祥捐出家產，籌餉募集民兵5萬進京勤王，反被奸臣阻撓，解除兵權。
1276年陰曆正月十八日，伯顏元軍進抵距臨安只有30里的皋亭山，右丞相陳宜中畏敵逃遁。正月十九日，朝廷臨危授命臨安知府文天祥為右丞相，前往皋亭山議降。掌權的太皇太后謝氏授意如能談成，可以讓小皇帝向忽必烈稱侄子，實在不行，稱孫子也答應。正月二十日，文天祥面見伯顏，說自己只議和，不議降，並要求元軍先撤兵，後談判。伯顏大怒，扣押了文天祥。正月二十一日，謝氏率南宋君臣舉國投降。
1276年陰曆二月初九日，誓死不降的文天祥被元軍押解出發前往大都（今北京）。中途在鎮江停留時，文天祥與同伴共12人於二月二十九日夜設計逃脫，歷盡艱險經儀征、揚州、通州（今南通）乘船回歸南宋故土。在長江口繞道先北後南迂迴航行時，文天祥在船上寫下了赤誠感人的詩篇《揚子江》：“幾日隨風北海游，回從揚子大江頭。臣心一片磁針石，不指南方不肯休。”
人生自古誰無死，留取丹心照汗青。經過兩個多月的奔波，文天祥終於回到浙江溫州。此後，不肯降元的官員們擁立已經降元的南宋恭帝的幼弟為帝，建立了苟延殘喘的小朝廷。南宋故土一度只靠文天祥率軍獨撐殘局，終於寡不敵眾，於1279年陰曆十二月二十日在廣東海豐的五坡嶺兵敗，再次被俘。
元軍押著文天祥，走海路經珠江口外的零丁洋，去進攻南宋小朝廷最後的基地崖山（今廣東省新會縣海域）。文天祥在敵船中寫下了《過零丁洋》，千古名句“人生自古誰無死，留取丹心照汗青”即出自此詩。
天地有正氣，雜然賦流形。1279年陰曆十月初一日，文天祥被押送抵達大都，安置在館驛。元世祖忽必烈很讚賞文天祥的才幹，他派已降的南宋恭帝及多批降臣前來勸誘，文天祥不為所動，嚴詞拒絕，後於十月初五日被關進兵馬司牢房（在今府學胡同）。
文天祥在關押三年期間，書寫了幾百篇詩詞文章，以抒發愛國之情。1281年夏季，在暑氣、腐氣、穢氣等七氣的熏蒸中，文天祥慷慨揮毫，在牢中寫就了千古流傳、擲地有聲的鏗鏘之作《正氣歌》：“天地有正氣，雜然賦流形。下則為河嶽，上則為日星。於人曰浩然，沛乎塞蒼冥……”
唯有一腔忠烈氣，碧空常共暮雲愁。1283年初，元朝偵知有人聯絡數千人，要起兵反元，營救文天祥。1月8日，元世祖忽必烈親自提審，作最後的勸降，並許諾授予丞相官職。文天祥告訴忽必烈：“一死之外，無可為者。”
1283年1月9日，文天祥在大都柴市（今北京交道口南大街）慷慨就義，終年48歲。文天祥在刑場寫下了絕筆詩：
昔年單舸走維揚，萬死逃生輔宋皇。
天地不容興社稷，邦家無主失忠良。
神歸嵩岳風雷變，氣哇煙雲草樹荒。
南望九原何處是，塵沙黯澹路茫茫。
衣冠七載混氈裘，憔悴形容似楚囚。
龍馭兩宮崖嶺月，貔貅萬灶海門秋。
天荒地老英雄喪，國破家亡事業休。
惟有一腔忠烈氣，碧空常共暮雲愁。