他坚持每天都打高尔夫球，风雨无阻。甚至在冬天下雪的天气里，他也会派一队仆人将积雪铲除，继续坚持打。他打球一方面是因为兴趣，另一方面也是为了锻炼身体，通常是五个人打，从每个发球处打五六下，随后在最好的位置击球。他击出去的球全都顺着跑道跑大约一百多码，绝对是不远多少也不近多少，正好在球道的半途，并落入球洞。有时他也会邀请朋友到他的私人球场打球，但他的球友不多。当盖茨劝他应该多邀请些朋友来打球时，洛克菲勒说出了有钱人共有的苦衷：
你如果认为我不想邀朋友玩球，那你就错了。我早就试过，可惜结果都一律地令我失望。那些人个个醉翁之意不在酒，多半打到第九个洞的时候就向我提要求，不是希望我捐献就是要贷款。
他每天必做的活动除了打高尔夫球外，还有一项就是乘车出游散心。不管天气好坏，只要做完准备工作，他就驾车出行。有时候，他的打扮很有趣：穿着一件薄背心，戴上飞行员的护目镜和防尘帽，帽边垂在脸的两边，就像猎狗的两只耳朵。
1909年，洛克菲勒已经70岁了，但他的身体依然很健康，一篇文章曾对他这样描述：
洛克菲勒虽已年近七十，但仍然像个魁梧的体育健将。明亮的眼睛、泛红的双颊、被太阳晒得呈古铜色的皮肤，看上去只有50岁的模样。
他的私人医生在全面检查了他的身体之后说：“洛克菲勒先生身体健壮，起码可以活到100岁。”洛克菲勒的长寿秘诀主要有三个：一是不忧愁，不烦恼，所有事情朝前看，保持心情舒畅；二是有规律地生活，每天到户外做自己喜欢的运动。打高尔夫球和乘车出游散心可以说对他的长寿起了关键的作用，使他退休前一度糟糕的健康状况很快得到改善；三是在饮食上有节制，细嚼慢咽。
洛克菲勒年轻时没有想到自己在将来的某一天会这么有钱，同样也没有想到自己的寿命竟然这么长。他活过了80岁，到了90岁，此时他依然坚持每天活动，但每项活动的时间不得不慢慢减少了。比如打高尔夫球，从打九穴到打六穴，后来又减到四穴。每天的散步和社交聚会也不能占用太多时间，他必须休息，以恢复体力，但他从来没有怨言，平静地接受衰老这一事实。
宗教也仍旧是他生活的中心，虽然因为体力衰弱，他不能每天亲自去教堂，但他还是通过收音机来收听布道节目，甚至还专门请了一位小提琴师为他唱赞美诗时进行伴奏。尽管已经年近九十了，但洛克菲勒依旧有着强烈的生命欲望，他从来也不谈论自己去世后的事情，而总是和人谈论如何生存，如何生活以及如何走向成熟。即使提到死亡，他也想着自己可以在天堂中永生。
他的生日也被当地居民当成了一件大事来对待。每年生日那一天，他都会出现在新闻摄影机面前，斜戴着草帽，神情悠闲，满脸笑容，有时也会发表一番颇严肃的祝词：“上帝保佑标准石油公司，上帝保佑我们大家。”在他的内心，标准石油公司就是上帝的宠儿，也是他宠爱的孩子。
洛克菲勒的几个儿女都是在他严格又慈爱的关怀中长大的。洛克菲勒非常疼爱自己唯一的儿子，很早就把他送到学校读书。但他是一个沉默寡言的人，对儿子的关心总是在信中流露出来：
你要知道，你尽责和满足的表现就是报答父母给你爱的最好表示，我无法告诉你，我每天看你健康快乐，及为我延续生命的那种希望是多么令我快乐。我希望你也像我一样地依赖你，与我携手为这个家族共创事业，只等你学业一旦完成，我们即可全力以赴。
洛克菲勒共有四个女儿，二女儿艾丽斯在1869年出生后的第二年就夭折了。剩下的三个女儿和儿子不同，她们小的时候主要是在家接受教育，长大后，才送到女子专门学院去读书。大女儿贝丝曾在华沙女子学院读书，三女儿阿尔塔喜欢唱歌弹琴，而且热心于教会服务。
后来，她还在克利夫兰的意大利人区建立了一所收容院。在纽约，她还办了一所女子缝纫学校。小女儿伊迪丝专攻语言学、艺术和音乐。
1889年，大女儿贝丝与从小青梅竹马的男友查尔斯·史强走进了婚礼的殿堂。查尔斯的父亲是着名的浸信会牧师、教育家奥古斯塔斯·史强。后来，查尔斯攻读哲学，成了康奈尔大学有名的哲学教授。婚后，他们的生活一直很美满。不幸的是，后来贝丝身染痼疾，久病在床，40岁时就病逝了。
1895年，小女儿伊迪丝嫁给了国际收割机公司的财产继承人哈罗德·麦考密克。麦考密克毕业于普林斯顿大学，父亲是农田收割机的发明人。这桩婚姻意味着两个巨大公司的结合。伊迪丝是一个有个性、独立而又反传统的女孩，这一点与其他姐妹有很大不同。她也是洛克菲勒家族子女中唯一没有继承节俭传统的人，平常喜欢珠光宝气，炫耀富贵。她不仅生活奢侈，而且还传出不少桃色新闻，并与自己的男秘书打情骂俏。据说在1932年临死前，她还把自己的一半家产赠给一个名叫爱德华·克雷恩的瑞士秘书。伊迪丝和麦考密克生了3个孩子，于1921年离婚。
1901年，洛克菲勒的三女儿阿尔塔也结婚了。她的丈夫名叫E.帕马利·普伦蒂斯，是哈佛法学院的高材生。他曾在芝加哥当了多年律师，非常有名，后来迁居纽约，创办了一个律师事务所，专门处理洛克菲勒家庭事务。这个律师事务所经过几次合并后成为第一流的米尔班克-特威德事务所。1924年，普伦蒂斯改行研究农业，在麻省开办农场，还写了两本关于养牛和防止饥荒的书。
生命的终点
1937年5月23日，一个星期日的早晨，这位生活了近一个世纪的老人走到了生命的尽头，他平静而毫无痛苦地去世了，享年98岁。
死亡的真正原因是心肌炎——心肌硬化，简单地说就是死于高龄。一直在他床边守护的私人医生向记者描述这位标准石油公司的创始人去世时的情形说：“他的心脏逐渐停止了跳动，脉搏马上变得虚弱和不规则，呼吸越来越微弱，最后在4：05停止了呼吸。”
洛克菲勒在临死之前，所有的亲属都不在身边。他似乎也意识到了这一点，赶紧将儿子小洛克菲勒找来。可惜的是，还没等儿子到来，他就已经闭上了眼睛。这一年，小洛克菲勒正在负责一项巨大的建筑工程，洛克菲勒中心已经有14幢完工了。但是父亲没有看到这座宏伟的建筑，为此，小洛克菲勒感到很难过。
在死亡证上，他的职业一栏填写的是“股票交易所成员”，业务是“买卖股票和债券”。他的这项业务一直延续到生命的最后一天。
小洛克菲勒很快给自己的6个孩子发出了电报，让他们回家参加葬礼，电报的内容这样写着：
在几个小时的虚弱之后，老太爷已于今天清晨逝世。他死得和活着时一样安详愉快……约翰。
之后，他又给在伦敦和瑞士的姐姐发出了同样内容的电报。
在波坎蒂克庄园中，洛克菲勒的全部雇员和几位亲密的好友为他举行了一个简短的宗教仪式，然后，将他的尸体运到了在纽约的庄园。
纽约庄园的大门已被关闭起来，公众和记者禁止进入。第二天，在主宅的中央大厅里，洛克菲勒的直系亲属全部到场又举行了一次简单的丧礼。一位由洛克菲勒捐资兴建的礼拜堂的牧师，念诵了《圣经》上的文句。教堂里为他敲响了大钟，风琴手用洛克菲勒心爱的那架皮管风琴弹奏了他心爱的几首赞美诗。上午11点钟，世界各地所有的标准石油公司所属的办事处、炼油厂和子公司，全部停止工作5分钟，向这位创始人致哀，以纪念这位伟大的商业领袖和高尚的慈善家。
第二天，在直系亲属的陪伴下，约翰·D.洛克菲勒的遗体被安葬在标准石油公司的发祥地克利夫兰，那里有一座湖景公墓，树木葱郁，风景优美，他和他的妻子罗拉并排埋在一起。他的坟墓上只有一块28英寸宽，14英寸长的简单的墓石。
他的逝世成为当天报纸、杂志和刊物的大字标题新闻，叙述他生平的讣告充满了整页整页的报纸。许多曾经谩骂与诋毁洛克菲勒的报纸，在讣告中都将这个逝去的人描述成乐善好施的慈善家。有份讣告还将他自己写的唯一一首总结他一生的小调改成了诗：
我学习工作也学习娱乐，我的生命就是漫长愉快的假日，充满工作，充满享乐，上帝日日都保佑我。
洛克菲勒就这样安静地走了，留给人们的是太多的思考和回味。
他所创立的标准石油公司将成为一座纪念碑。而他的精神则依然激励着后人。一位曾因托拉斯问题起诉过洛克菲勒的检察官这样说：“除了我们敬爱的总统外，他堪称是我国最伟大的公民。他是明智运用自己巨额财富的第一个人，世界因他而更加美好，他的名字将为世人永远铭记。”
洛克菲勒一直是一个有争议的人物，人们对他的态度褒贬不一。
有人非常尊敬他，有人又非常藐视甚至痛恨他。他是美国南北战争后兴起的工商业巨子中的代表人物。在生意上，他们不择手段；在政治上，他们进行干预，根本不顾社会利益，因此，他们被称为“强盗大王”。
但是，从另一个角度讲，这些工商巨子为美国的经济生活作出了不可磨灭的贡献，这些是任何人都不能否定的。尤其是在大企业的组织、生产的节约以及效率的提高，大规模生产技术的革新等方面贡献特别大。
洛克菲勒就是这样一个矛盾统一体。他是一个被大多数人憎恨的垄断资本家，又是一个让人敬佩的慈善家。在石油业中，他创造出辉煌的成绩；在慈善事业中，他也留下了不可磨灭的印记。在晚年，他对社会所作出的贡献是人们不能忘怀的。
洛克菲勒用自己的一生见证着自由资本主义向垄断资本主义过渡的一段残酷而必然的历史，并成为这段历史的推动者。
因为洛克菲勒在生前已经对自己的财富进行了处理，他只留下了价值2640万美元的遗产给子女。因为他的言传身教，洛克菲勒的后代没有被金钱所累，他们融入社会当中，没有因为金钱成为特权阶层。
洛克菲勒的离开并没有引起股票市场的波动，股票没有下跌。全世界的石油公司仍旧按部就班地生产、炼制、销售他们的石油。活着的洛克菲勒后代还在继续努力着。