1937年8月13日，日本帝国主义在上海发动侵略战争。不久，上海沦为孤岛，常州相继沦陷。旅居在孤岛的吕思勉，由于故乡常州的城门口站有日兵岗哨，出进必须脱帽鞠躬，便坚决抵制，不肯回去。他说：“我已年过半百，大半辈子过去了，决不向日本人低头！”他听任常州的住房由败坏而倒塌，木料砖瓦杂物等被盗一空……
吕思勉的男孩早夭，只有一个女儿，一家三口，但是他还要负担另外三个远亲的生活：“再从堂弟”夫妇俩和一个离婚在家的“再从堂妹”。过去，他的光华大学教薪一年只发九个月，现在又因国难时期，这九个月的教薪还常常拖欠。有一次，为了医治夫人的病，不得不把御寒的大衣也卖掉。生活的担子如此沉重，他只得在认真教课的同时，努力为开明书店写书。
1940年，一个报社记者编了一份挂着洋商招牌的抗日报纸副刊，向他组稿，并且事先声明稿酬很低。出于民族的正义感，他不避艰险，一口答应，还说“即使不给稿费，我也写！”于是他用“野猫”、“乃秋”、“六庸”、“程芸”等笔名，写了不少洋溢着民族正气的文章大力支援。孤岛沦陷以后，这位记者在一家书店工作，向他约写书稿，他又高兴地答应写一本影射日寇侵华必将覆败的书《五胡猾夏录》。而与此同时，他却干脆谢绝了那些稿酬超过三倍以上的汪伪报刊的组稿。
一次吕思勉曾经用“谈言”的笔名在旅居孤岛时期写了一篇散文《狗吠》。文章一开头，描写了阔别故乡三年有余的“我”，见了故乡来人，不免焦急地问起故乡的情况。来人却答非所问地说：“现在狗吠的声音，比从前厉害了。”这是什么话？这使“我”听了莫明其妙。文章就从这一悬疑开始，借着狗吠这一线索，一步步地说明了狗为什么看到“异样的人”而狂叫的原因，有力地控诉了日寇占领下沦陷区暗无天日的惨状。
到了1942年8月，进出常州城门的人只需向日兵岗哨脱帽而免去鞠躬时，吕思勉才光着头，和家人一起重回常州。那时常州街上还有日兵哨位，路经哨兵时，也要行脱帽礼，因此他起誓：“不到抗战胜利，我决不戴帽子！”
吕思勉回到常州后，就用刚刚取得的开明书店预支稿费，在原来住房的废墟上，盖了两间屋和一间作为灶房用的草棚。为了生活，他就在这样简陋阴湿的房屋里笔耕不辍，每天至少得定稿两千字。他宁肯让自己的生活艰苦得在满是瓦砾和石灰块的住宅废墟上种植一些容易存活的南瓜和扁豆，整日吃着扁豆烧豆腐和子姜炒南瓜，也决不应允那位身居汪伪高位的学生，以高额酬金为诱饵，借用他的名字在什么“协会”的名单里领衔。
1945年日寇投降以后，光华大学复校，吕思勉又来到了上海。这一年的12月8日，他在上海买了一顶六合帽，在日记《扬眉记·序》里高兴地说：这种六合帽，是明太祖平胡元后所制定。30日，他戴上这顶买来才半个多月的六合帽，“昂然归故乡矣”！一种民族的浩然正气，像一条红线，贯穿在他整个抗日时期艰难困苦的生活中。