在伦敦期间，海顿尝试写作清唱剧。他选择了马奇蒙特·内德汉的诗歌作为蓝本，标题是《为英格兰共和制向海王祈祷》。写了一段男低音咏叹调和合唱之后，他放弃了这个念头，因为他还是无法把握英语这门语言。目前，这些手稿存放在不列颠图书馆。人们对他驾驭器乐音乐的能力印象深刻，据说有一次他还亲自指导一位定音鼓手如何使用鼓槌。毕竟，当他6岁时，就曾经在海茵堡学习过演奏定音鼓。
这次，海顿尽可能多地四处观光。他去了汉普顿宫和温彻斯特。航行跨过梭伦特海峡，前往怀特岛参观卡利斯布鲁克城堡。1794年8月，他在巴斯待了3天。途径布里斯托尔回到伦敦，开始筹备第二个演出季。这次由歌剧协会主办，维奥蒂指导（而非萨洛蒙）。音乐会都在海市场的国王剧院举行。乐队包括60位演奏员，24把小提琴、4支双簧管、4支单簧管和4支大管。从2月2日到6月1日间的11场音乐会中，海顿创作了《降B大调第102交响曲》、《降E大调第103交响曲“鼓声”》和《D大调第104交响曲“伦敦”》。
2月7日约克大厅的音乐会上，海顿被引见给英格兰国王乔治三世。他还是坐在羽管键琴前指挥。自此，海顿一连好几场专为王室成员演奏。很多朋友和赞助人都希望海顿能永远居住在英国。然而，1794年安东大公去世以后，继承者尼古拉二世——老尼古拉大公的孙子立刻召海顿回到艾森施塔特，因为他想要重建父亲解散了的乐队（自从1791年起，埃斯特哈奇家族就离开埃斯特哈查宫，一直居住在艾森施塔特）。海顿仍是该乐队的音乐指导，但当他们需要演出时，则有当时的大提琴手魏格尔担任指挥，他后来还成了皇家宫廷剧院的指挥。1795年5至6月份的音乐会之后，海顿同英国的朋友们道别。8月15日，他挣足了1200镑启程回国。
施瓦岑堡宫殿
自英格兰归来，海顿顺道前往汉堡，想要一会自己欣赏已久的卡尔·菲利普·埃马努埃尔·巴赫。但当他抵达汉堡时，发现巴赫早已过世。
离开汉堡后，他又来到法兰克福，他的雇主尼古拉大公正在参加国王弗朗茨二世的加冕典礼。仪式结束后，主仆一同启程回维也纳，海顿重新开始为埃斯特哈奇家族效力。但这次，主仆之间的关系并不非常融洽。
雇主命令他为自己的妻子玛丽亚·赫尔墨涅吉尔特受封为列支敦士登女爵创作6部弥撒曲。当时，海顿已经一口气创作了《C大调第二感恩赞》以及另外两部杰作，清唱剧《创世记》和《四季》。1796年，海顿也创作了两部弥撒，《战时弥撒》因为创作于拿破仑的军队跨国奥地利边境入侵意大利时创作而得名。在《羔羊经》中，海顿采用小号与打击乐描绘战争场面。另一首1796年完成的弥撒是《奥费达的圣贝尔纳迪弥撒》，纪念1795年贝尔纳迪被封为圣徒一事。这部弥撒也叫“神圣”弥撒，因为其中的《圣哉经》取自一首古老的颂歌“神圣”。1798年，海顿开始创作第三部弥撒《恐惧时刻弥撒》时，得知内尔松在阿布基尔战役中一举获胜。于是这部弥撒得了“内尔松”弥撒的绰号。据说，《降福经》中的小号就描绘了内尔松的胜利。
第四部弥撒《玛丽亚·泰瑞莎弥撒》作于1799年。第五部则是《创世弥撒》，作于1801年，因为他将自己的清唱剧主题用于其中的《羔羊经》而得名。1802年，《和谐弥撒》完成，这是第六部，其中运用了大量木管乐器。
前面说过，海顿曾在1791年威斯敏斯特大教堂听过亨德尔的《弥赛亚》，甚至尝试写作大型清唱剧。之所以选择《创世记》或许是萨洛蒙在伦敦就给过海顿一个脚本的抄本。原来这个脚本是给亨德尔的，但他从来不曾动笔谱曲。海顿把这个本子带到维也纳，请戈特弗里德·冯·斯维滕男爵翻译成德语。后者是奥地利外交官，国家图书馆管理员。冯·斯维滕与海顿以及莫扎特的关系都非常亲密，并且对亨德尔的作品情有独钟。冯·斯维滕非但翻译了脚本，而且给海顿付了一笔定金以供首演之用。1796年，海顿就开始动笔，并在两年后完成。年过花甲的海顿投入全部精力进行创作，觉得自己与上帝十分亲近。这部清唱剧成了海顿第一部德语宗教作品，1798年4月19日首演在维也纳施瓦岑堡宫殿举行。
听众大都出生高贵，而且非常挑剔，但演出获得极大成功。在大厅外，集结着许多人要同作曲家见面。海顿亲自指挥由180位音乐家构成的乐队。第二天，他们不得不再次演出，5月7日与8日又有两场演出，海顿因此挣了不少钱。1799年3月19日，这部作品的首次公开演出在维也纳卡特内尔托剧院举行。1800年3月28日，约翰·阿什利指挥了在科文特花园剧院的伦敦首演，这位指挥家是萨洛蒙的竞争对手。1800年4月21日，晚收到乐谱拷贝的萨洛蒙又在伦敦指挥了一场演出。在伦敦，这部作品经演不衰。本来，海顿还被邀请参加《创世记》在巴黎的首演（1800年12月24日），但普法战争爆发，因而未能成行。
创作《创世记》的同时，海顿还创作了其他一些作品。1796年完成了《降E大调小号协奏曲》，至今仍是小号演奏家钟爱的作品之一。同年，海顿完成了自己最后的舞台作品《爱国君主》，台本由英国作家亚历山大·比克奈尔创作。为该剧在维也纳演出，海顿创作了一首宣叙调、一首咏叹调和一段大合唱。在英国的时候，海顿就曾经对英国国歌《天佑吾王》（如今是《天佑女皇》）印象深刻。他认为，饱经战乱之苦的奥地利人民在听到一首新的国歌时一定会大为振奋。于是，1797年他选取莱奥波特·哈什卡的词谱写成歌。这首名为《天佑吾王弗朗茨》的曲调深受人民的欢迎，作为奥地利国歌长达100年之久。国王自然也非常满意，赐给海顿一个金鼻烟盒。
海顿的石棺
现存于萨尔斯堡莫扎特纪念馆的一份文件描述了老年海顿的日常生活。这份文件很可能是海顿的抄谱员约翰·埃斯勒写下的。下面摘录其中的段落，全本已被收入罗宾斯·兰顿和怀恩·琼斯的《海顿，生平与音乐》一书。“夏天，他总在6点30分起床。直到73岁，他还坚持每天刮脸，自己穿衣。如果当天有学生上课，他就一边洗漱，一边听学生演奏。所有的错误都将被指出，学生带着新的功课离开。这样他就打发了头一个半小时。吃早饭总是在8点正。早餐用罢立刻走到钢琴前修改作品或进行创作直到11点30分。此后接待访客，或者去拜访别人抑或散步直到13点30分。14点到15点吃午饭。午餐后开始安排日常生活或者花时间研究音乐，然后继续上午的工作。晚上20点他会出门，21点回来。接着做配器或者读书直到22点。22点，他吃一点面包，喝一点酒。23点30分上床睡觉。随着年事增高，他睡得更晚。在他生命最后的几年里，作息时间因为年龄增长或者疾病而有所变化。”
1800年春天，海顿的妻子前往巴登州就医，3月20日，70岁高龄的她在那里去世。《创世记》在维也纳的演出结束后，海顿前往埃森施塔特，花整个暑期创作第二部清唱剧《四季》。1800年，埃森施塔特迎来了一批贵客，内尔松、威廉爵士和汉密尔顿夫人。他们从那不勒斯来，威廉爵士作为使节正回英格兰复命。他们在维也纳逗留三星期后，于9月6日来到埃森施塔特。尼古拉大公和威廉爵士私交很深，他们到达的那天，东道主举办了盛大的烟火晚会。汉密尔顿夫人一直与海顿很亲近。有一天晚上，内尔松问海顿讨一份贵重的礼物，海顿给了他自己的钢笔。内尔松明白这份礼物的意义，他把自己在阿布基尔战役中携带的金怀表送给海顿作还礼。海顿死后，人们从中发现两幅内尔松的相片和阿布基尔的海事图。
冯·斯维腾为海顿的世俗清唱剧《四季》翻译了同名诗歌，原作由苏格兰诗人詹姆斯·汤姆森所作。诗歌描绘了一年之中的风景变化。海顿的音乐描绘了大量自然声响，从鸟儿的歌唱到青蛙的鸣叫。1801年4月24日，首演于施瓦岑堡宫殿举行，演出非常成功。他从这部清唱剧中赚了不少钱，但到1805年，他感到身心疲惫。他说：“《四季》并没有给我带来好运。我不该写的。这让我完蛋了。”海顿感到自己的力量耗尽了。1801年，他想要立遗嘱。只有与兄弟米夏伊尔和约翰的会面给他带来少许安慰。1802年，他想要创作一部新的清唱剧，讲述最后的审判，但1802年冯·斯维腾的突然去世使得这项计划不得不终止。1802年和1803年间，海顿创作了自己最后的作品《和谐弥撒》（木管乐弥撒）和《d小调弦乐四重奏》。还完成了为爱丁堡出版商威廉·怀特编定的苏格兰民歌，赚了500戈顿。对此，海顿说：“我为这部作品感到自豪，我的名字将在我死后很久仍在苏格兰回响。”
在生命的最后一年里，海顿获得来自欧洲各地的荣耀。对这些礼物和奖章，海顿非常自豪，常常拿出来与宾客共赏。1808年，莱夏尔特来拜访海顿，海顿给他看一个黑色乌木鼻烟盒，是埃斯特哈奇大公夫人所赠。二次大战末期，1945年市立博物馆被摧毁后，这个盒子也损毁了。莱夏尔特还看到从俄罗斯和巴黎送来的金制徽章、俄国沙皇赠送的戒指以及来自几乎所有欧洲城市的证书。海顿从这些小玩意儿中看到自己的整个人生。
海顿在很多信件与对话中提到自己体力衰退，一生中很少生病的他很难正面面对这种衰退。他订制的问候卡片上都印有：“我的力量都已失去，年老体衰。”1804年，海顿从埃斯特哈奇家族的职务上退休。大公邀请他的兄弟米夏伊尔接任，但后者没有答应，于是选择了约翰·内波姆克·胡梅尔作为下一任乐正。1805年3月31日，海顿过于虚弱，无法参加自己的73岁生日宴会，因而引起谣传说他已经死了。于是，凯鲁比尼在巴黎创作了一部纪念海顿的康塔塔。乐队也开始为海顿葬礼排练莫扎特的《安魂曲》。早已对这种谣传习以为常的海顿开玩笑说：“真抱歉，我不能去巴黎指挥这部新作品了。”
在海顿生命的最后，许多重要的音乐家都来探望海顿，阿贝·沃格勒、韦伯一家特别是康施坦茨·韦伯——莫扎特的遗孀。
1805年，伊克纳茨·普雷耶尔从巴黎来拜访海顿。普雷耶尔已经成了出版商，带给海顿他的弦乐四重奏全集。普雷耶尔这样描述这次会面：“我想，海顿一定非常虚弱。他几乎不能行走，说话时间一长就喘不上气。他才73岁，但看上却像80了。他反复说自己的生命就快结束了，他已经非常老了，不中用了。”
他兄弟的死对他是一个打击，1805年5月10日，约翰去世，1806年8月米夏伊尔也去世了。海顿已经不能继续创作。《四季》完成后，他时常头疼，对头脑里缠绕不去的音符感到烦乱。尽管如此，他还是完成了《四季弥撒》和《和谐弥撒》，1803年就开始创作的《d小调弦乐四重奏》并没有完成。音乐的创新无穷无尽，海顿说：“灵感总是在追逐我，逼迫我。我无法逃跑，他们就像墙一样堵住我的去路。如果是一个快板的灵感在追逐我，我的心跳就加快，令我无法入睡。如果是柔板，我的心跳就会变慢。我的幻想把我当成钢琴来演奏了。”
海顿几乎不能再演奏钢琴。他说是《四季》导致了这一切，翻来覆去说自己不应该创作这部作品。1806年夏天，医生命令人们挪走海顿的小钢琴。任何一点音乐都会引起他的头疼和古怪行为。海顿最后一次辉煌是在1808年3月27日维也纳大学“大厅”的《创世记》演出，这次演出是为了庆祝他的76岁生日。尽管身体虚弱，海顿还是想要观看聆听这次演出。埃斯特哈奇大公派马车前来接送，海顿和他的医生一同前往大学。大学外，人群聚集高喊“海顿万岁！”他在号角与鼓声中步入学校。尼古拉·埃斯特哈奇大公亲自搀扶他进入音乐厅。几乎所有重要音乐家都到场了，贝多芬、胡梅尔和萨列里。演出让老人过分激动，间歇期间，人们不得不把他送回家。当海顿离场时，贝多芬亲吻了他的手。
1809年初，海顿已完全不能自理，他最后的日子是在吵闹中度过。5月份的第一周，拿破仑的军队踏入维也纳。战斗中，一颗炮弹落在海顿家附近，顿时天摇地动。海顿熬过了24小时炮击。占领维也纳后，拿破仑派一名士兵在海顿家门前站岗，免得这位伟大音乐家受到打扰。据说，他每天在钢琴上演奏奥地利国歌（他自己的作品）表示对拿破仑的抗议。1809年5月31日早晨，海顿离开了人世。由于维也纳到处是侵略军的士兵，人们直到好几天后才知道他去世的消息，他的葬礼也悄然过去。他的尸体被埋在亨茨图尔姆公墓，如今的海顿公园中。葬礼中，人们演奏米夏伊尔·海顿的《安魂曲》。1809年6月15日，人们举行了追悼会，演奏了莫扎特的《安魂曲》。