1949年9月6日，应中共中央的邀请，张元济、赵朴初、茅以升、盛丕华、袁雪芬等乘车同往北平。
张元济到北平之后，受到毛泽东、周恩来、朱德的先后会见。张元济的大名毛泽东是早有耳闻的，但是这次相会却是他们的初次见面，没有来得及深谈，所以，毛泽东又找时间和张元济进行了长谈。很多共同的志趣使毛泽东和张元济结下了深厚的友谊，成为忘年好友。
张元济先后向毛泽东提出了很多有建设性的意见，比如关于开放孔庙的建议，比如在报刊上刊登读者来信，广开言路的建议，等等。
张元济先后多次致信毛泽东，坦言自己心中所想。1951年5月26日，张元济给毛泽东写信谈到进军西藏的解放军问题，并且附《告存诗》一首：
足云跛矣宁忘屦，指不若人还自信。
八十四翁原未老，一年一度又逢春。
积雪西陲今渐化，怒涛东海讵难平。
祈天我欲须臾缓，抚杖来观告武成。
1951年8月29日，张元济再次致信毛泽东，再议人藏问题。信中又附《解放诗》一首。表达了张元济对毛泽东的感佩和对共产党的热爱。7月3日，毛泽东给张元济写了回信，信中还专门谈到了诗：
菊生先生：
去年十二月三十日，今年四月十五日和五月二十六日三次，惠书，并附大作及书一函，均收到了，谨谢厚意。积雪西陲一诗甚好。由于签订了协议，我们的队伍不久可以到拉萨了。尊悉有起色，甚以为慰。此复。
敬礼康吉毛泽东七月三十日此后，他们书信往来不下十余次。毛泽东和张元济的忘年交一直持续到张元济辞世。
1958年，张元济患病住进医院，周恩来沪视察期间，专门到医院看望张元济。那时张元济已经九十二岁高龄，神志已经不大清晰了。周恩来站在张元济的病床前说：“我是周恩来。”张元济只是动了一下。然后低声说：“毛主席好！”周恩来欠了一下身子说：“主席很好，特托我来看望你。”张元济脸上露出了安详的微笑。
次年张元济去世，终年九十三岁。