当时元世祖忽必烈为了巩固统治，正在南宋官员中大量搜罗人才。有一天，他在朝堂上向文武百官问道：“南北丞相，谁人最贤？”
大家回答说：“文天祥乃当今人中之凤也，南宋人中无一及其项背者。”
元世祖早就知道文天祥的忠贞，如今听到这些话，更想用他做丞相了。于是王积翁和谢元昌立刻写信婉言相劝。
文天祥的回信很快就来了，他说：“我知道诸君的心意，但是如果我今天变节，归顺元朝，必定遗臭万年。”
王积翁知道没有任何办法可以动摇他的心意，于是奏明世祖皇帝说：“文天祥对宋朝忠心耿耿，是个刚直不阿的丞相。如果主上以礼待之，将他释放，陛下便会落得一个宽容惜才的美名，到时候一些有识之士必将纷纷归附。”
忽必烈听了沉默良久，关于文天祥是留着还是处刑的问题，意见太多，忽必烈还想等等看，于是对王积翁说：“让千户好好侍候他的茶饭。”
粗食、美食对文天祥都是一样，他看见狱卒突然送来精致的饭菜，便托人告诉王积翁说：“我文天祥不吃官饭已有好几年了，元朝为我准备的酒饭，我坚决不吃。”
到了这个地步，大家都死了这条心，不敢再说什么劝降的话了。
文天祥在兵马司住得久了，里边的人跟他熟了以后，都非常尊重、敬爱他。狱官长李指挥和魏千户对他特别好，甚至请他写些字画，下下棋什么的。尤其是无聊的日子里，大家就聚到他这边来，听他讲故事。
至元十九年（1282年），文天祥两眼已经昏花，但他坐在土室里，依然朝南不朝北。
王积翁想联合几个人向忽必烈求情，把文天祥放出来。
留梦炎私底下对王积翁说：“你别看他病得那个样子，但他仍然是那个在赣州起兵勤王、在京口九死一生的人。文天祥的倔犟脾气改不了的。如果我们保他出来，将来出了乱子，你担当得起吗？”
留梦炎这么一说，王积翁便犹豫起来了。正在这个时候，有个走江湖的和尚自称善观星象，他上书给忽必烈说：“夜观星象，预测十一月，土星犯帝座，恐怕那时会有兵乱。”偏巧皇太子不知从哪里得到一个匣子，里面藏着一份秘密文件，上面写着：“……马上起义。到时先焚烧城墙上的草苇，然后率领两翼卫兵举火把接应……丞相可以不必担心了。”
大家都以为这“丞相”二字，指的是文天祥。当时，各地抗元斗争高涨。中山府（今河北定县）有一个自称“宋朝幼主”的义士，聚众数千人，声称要攻入燕京劫狱，营救文天祥丞相。
各地流言百出，弄得人心惶惶。麦术丁等人力奏元主，务必先解决文天祥以镇压人心。谁也料想不到，文件上说的“丞相”原来是元世祖身边的丞相阿合马，他暗中布置爪牙，打算引起暴动，好夺取帝位。
十二月初八，忽必烈在皇宫大殿中召见了文天祥，想亲自劝他归附。文天祥上到金銮宝殿，见了元世祖忽必烈，照样拱一拱手。
两旁的卫士大喝：“好大的胆子，见了皇上还不快跪下。”说着，便跳出一名大汉，抽出钢节鞭敲他的膝盖骨。
文天祥的眼睛溃肿，头发苍白，瘦骨嶙峋，虽然两膝被打得颤抖，仍然像根柱子，动也不动。元主突然生起了一种对末路英雄的同情，便挥挥手，止住卫士动粗。
元世祖问他：“文天祥，你来这里的时间也不短了，我一直不忍心杀你。如果你愿意回心转意，效忠于我，我要把中书省宰相的位子给你。”
文天祥回答：“我文天祥受了宋朝的恩惠，官至宰相，如今宋朝不幸亡国了，我理所当然应以死报国，怎能做别人的宰相呢？”
“那么，派给你一份清闲的职务，你愿意吗？”
“赐我一死之外，别无他求！”
元世祖叹口气，摇摇头，让他退下。
第二天，有人奏请说：“文天祥既不愿归附，不如成全他的请求，赐他一死。”麦术丁从旁力劝，元世祖勉强答应了，于是下令将文天祥赐死。
当天，一群元兵便来到狱里，文天祥见此情形，便知是怎么回事，高兴地说：“我的事情，今天终于完成了。”从到元大都的那天起，文天祥就想以身殉国，没想到竟拖了三年之久，今天终于如愿以偿了。
文天祥神色自若到了刑场，宣使问他：“有什么话讲没有？现在回奏还来得及。”
他抬起头四下看看，问道：“哪一边是南？”
于是朝南跪下，再拜道：“大宋遗臣文天祥，报答国家到此为止。”
殉国以后，一个看守他四年的狱卒发现文天祥衣带上的遗书。遗书上写着：
吾位居将相，不能救社稷，正天下，军败国辱，为囚虏，其当死久矣。顷被执以来，欲引决而无间，今天与之机，谨南向百拜以死。其赞曰：孔曰成仁，孟曰取义，惟其义尽，所以仁至。读圣贤书，所学何事？而今而后，庶几无愧！宋丞相文天祥绝笔。