洛克菲勒曾说：“我们可以成立一个信托基金会，派一些愿意为慈善事业终生奋斗的人去那里工作，我们可以亲自协助他们，让我们的慈善事业得到妥善、有效的管理。”于是，从1905年起，能干的盖茨就开始对这项事业进行准备了，他多次和洛克菲勒父子研究工作的实施情况。
筹备工作大约进行了5年。在这期间，洛克菲勒认为可以将这笔资金交给独立的董事会，让董事会中有才干有魄力的年轻人担任领导，而他自己则不会过多地插手。至于资金的来源，1906年，小洛克菲勒写给父亲的一封信是这样说的：“把托拉斯中的一部分资金投入到慈善事业上，专门用来接济贫困的大众，改进教育，发展科学及传播宗教，我以为可取。”
洛克菲勒父子深知这次计划庞大，包括的东西繁多，因此两人经常聚在一起，想找出一个完美的办法将各方面有才能的人集中起来，同心协力地工作。终于，1906年6月19日，计划草拟出来了，洛克菲勒立即从标准石油托拉斯的证券中提出5000万美元证券作为促进人类幸福和文明的基金。洛克菲勒接受了儿子的建议，准备创立三个信托基金，一个在国外用于推进基督教文明，一个在国内做同样的工作，还有一个则专门负责为芝加哥大学、普通教育委员会及洛克菲勒医学研究所提供资金。他签字同意这笔基金的产权属于三位受托管理人：
弗雷德里克·盖茨、小约翰·D.洛克菲勒和国际收割机公司财产继承人、他的女婿哈罗德·麦考密克。一向做事谨慎的洛克菲勒坚持要等到联邦政府的许可之后才能开展工作。1910年，小洛克菲勒写信给他的岳父，请他在国会中想办法为洛克菲勒基金会弄到一份联邦特许证。
前文我们曾介绍过，小洛克菲勒的岳父纳尔逊·奥尔德里奇是国会中最有影响的人物之一，他将议案呈交给了国会，也想促成这个世界上最大的慈善机构的成立。但是，这一次却不顺利。当时，联邦政府正在对洛克菲勒的标准石油公司提起诉讼，反托拉斯的浪潮正处于高峰，一些人甚至产生了惯性思维，只要洛克菲勒出面，一定有某种企图。芝加哥的《海洋杂志》就很幽默地写道：“哪怕是洛克菲勒要把全部财产捐赠给政府的议案，也没有人肯通过。”有人指出，洛克菲勒的捐款时机总是经过精心挑选的。1907年，他对普通教育委员会捐款3200万美元，而当时正值标准石油公司被法庭处以罚款。而现在又要捐款5000万美元，又是在标准石油公司的律师们就解决标准石油托拉斯的诉讼案向最高法院提出辩护的前几天。单从时间上，这些人的怀疑也许有一定的道理。为此，司法部长乔治·威克夏姆竭力反对洛克菲勒基金作为“一项使庞大财产永久存在的无限期的计划”。他认为，这个基金会的目标太广阔，太松散，而理想又太高，还是一个永久性的计划，这很难不让人怀疑他的居心。政府也担心一旦通过，会再次促成一个恣意放纵的社会团体。塔夫脱总统和国会议员们经过慎重考虑之后，全都反对这一议案，这项议案没有被通过。一搁就是三年，尽管纳尔逊·奥尔德里奇竭力争取，最终也没有成功。
洛克菲勒也只好将他原先的捐款计划废除了，但他成立基金会的决心没有因此而动摇，他又向纽约州的议会提出申请特许。因为该州的立法人士并不十分挑剔，于是在1913年5月，洛克菲勒轻易地在该州得到了经营许可，成立了洛克菲勒基金会，这是世界上最早的私人性质的基金会。洛克菲勒很快向基金会注入了3400多万资金，第二年又增加了6500多万美元。基金会的领导权自然而然地落在了洛克菲勒唯一的继承人——小洛克菲勒的手中。
虽然从表面上看，小洛克菲勒是基金会的领导人，但实际上，真正辛苦工作的另有其人，这就是格伦。格伦是传教士的儿子，毕业于哈佛大学，之后留在哈佛任教。他是一个聪明博学而又富有创造力的年轻人。他在基金会上花费的心血最多了，他后来曾回忆说：“当时，我就是基金会，基金会就是我。我一个人在百老汇26号的小房间里，独自守着四个抽屉的档案桌，那就是基金会全体的人工和设备了。”
基金会成立后，很快就吸收了更多的人为它服务。除了洛克菲勒父子和格伦外，盖茨、杰德逊、弗莱克斯纳、墨菲、海特、罗特六人也都成为资金的受托人。后来，赫本也加入了该基金会的工作。
基金会的人手和设备都齐备了，接来下来该考虑如何实现基金会的宗旨——促进全人类的安康。洛克菲勒提出了一个大原则：
最好的慈善事业是先找出贫困或失败的原因，再试着用就地取材的方法改善其缺点，以求得圆满。
格伦根据这一原则订下了基金会的六大章程：
一、基金会不做个人的接济。
二、协助的范围要广泛，不可只限于一次，除非是实验性质的协助。
三、基金会愿意协助任何能自助并助人的社区或集团。
四、基金会不捐助给任何无权过问的机构或团体。
五、基金会不接济任何长时期阻碍其资金有益运用的团体。
六、基金会愿意捐赠给任何能彻底消除个人或社会危害和痛苦的团体。
在这个基金会成立的头十年中，工作重点一直在公共卫生和医疗教育方面。
在基金会未成立时，洛克菲勒就有意像他建立跨国公司那样，将基金会发展成世界性的。果然，基金会很快就发展成一个国际性的机构，大力参与各种国内外的救助工作和教育活动。
基金会成立了专门的国际委员会——国际卫生委员会，在全世界范围内开展了对疑难传染病的防治。包括五大洲52个国家中的钩虫病、所有热带和亚热带地区的疟疾，以及南美洲和非洲的黄热病，另外还有伤寒、结核病、猩红热等。委员会不仅计划消灭各种疾病，还在世界各地设立分站，以促进当地科学卫生知识的传播。
国际卫生委员会最出色的成就就是在1937年研制成功预防黄热病的疫苗。西班牙内战期间，人们发现了黄热病是由蚊虫传播的。后来有一位叫葛卡斯的着名医生在巴拿马运河区将黄热病消减了下去。当时很多东方人士担心，巴拿马运河一旦通航，黄热病也会流传到东方。于是委员会邀请葛卡斯医生担任消减黄热病小组的组长。虽然黄热病曾一度被消灭，但在葛卡斯死后数年，黄热病又在南美洲大陆流行起来。后来，国际卫生委员会在纽约的研究中心成功地研制出预防该病的疫苗，从此使这种疾病得到有效的控制，减轻了人类的痛苦。
这种预防黄热病的疫苗很快就被送往世界各地，挽救了无数人的生命，但是，为了研究这种疫苗，有6名科学家不幸感染了病毒，为人类的健康事业献出了自己宝贵的生命。
传染病肆虐，引起了基金会管理人员的注意，他们认为，要想有效地阻止疾病的流行，不但需要科学家的努力，还需要一些训练有素的政府人员建立起一套行之有效的公共卫生系统。
为此，洛克菲勒基金会又向约翰·霍普金斯大学捐赠了600万美元，用来建立一所卫生与公共保健学院，以培养卫生工科、流行病以及生物统计方面的人才。
后来，基金会再次向哈佛大学捐款6000万美元，用以筹建公共卫生学院。洛克菲勒基金会的慷慨资助，促进了美国医药卫生事业的发展。
除此之外，基金会还出钱聘请一些科学家到贫困地区去开设医学院。洛克菲勒一生笃信宗教。因为有许多曾经到中国传教的朋友，他对中国也怀有浓厚的兴趣。于是他派人到中国去了解并进行研究，调查情况返回后，他决定协助中国发展健全的医疗制度。1915年，洛克菲勒基金会成立了中国医学委员会。6年后，经盖茨策划，并经批准决定在今天的北京成立一所医学院。费尔诺曾戏称该校为“中国的约翰·霍普金斯大学”。这所学校就是现在北京协和医院的前身，它成立后，为中国培养了大批掌握现代化医学知识的人才。
1921年9月，协和医学院举行了开学典礼，洛克菲勒亲自从美国远道赶来参加，在致开幕词时他说：
事实很明显，不管西方医学给中国提供了什么样的帮助，这都无关紧要。只有由中国人接管它，使它成为中国国民生活的一部分，这才是最重要的。所以，我们大家应该期望着在将来的某一天，中国人能够担任这所学校的大部分职务，由着名的中国人士担任学校的董事会……和世界上其他国家类似级别的医学院校情形相同，除学杂费之外，学校中需要的资助和捐款将由中国人的捐款和中国政府的补贴取代。让我们希望这一天到来，朝着这个目标前进，这将让西方最好的医学在中国这片土壤中深深地扎下根基！
为了能让公共卫生事业在全球展开，除了中国，基金会还花了几千万美元在远达伦敦、爱丁堡、里昂、布鲁塞尔、圣保罗、贝鲁特等地筹建医学院。对于和美国人同源同种同文化的加拿大，洛克菲勒也特别关心，拿出巨额资金改善那里的教育。
洛克菲勒一生共捐赠了5.3亿美元，其中有4.5亿美元投向了医学事业。他用自己的慷慨和创建为慈善事业带来了革命。
到1928年前后，当初帮助洛克菲勒策划慈善事业的主要人员都已衰老或逝世了。洛克菲勒的整个慈善事业也面临着一个新的时代。健壮的洛克菲勒主张将它们全部合并起来，在给儿子的信中他说：“如果合并是应该今天做的，你应了解我平日的感受，马上放手去做，应该毫无问题的，可以合成一个大机构。”
当时洛克菲勒基金会中还有普通教育委员会、罗拉·斯皮尔曼基金会、洛克菲勒纪念基金会（卫生委员会已并入基金会）。罗拉·斯皮尔曼基金会成立于1918年，是以洛克菲勒妻子的名字命名的基金会，主要从事社会工作，于1929年并入洛克菲勒基金会。但是普通教育委员会是不是也要并入基金会，洛克菲勒手下的人为此展开了争论。赞成的人士认为两者合并到一起会使行政制度更加完善，政策也更加一致；而反对的人士则认为两者的主旨不同，两者应该以各自的方式有效率地为社会谋福利。结果双方相互让一步，决定以缓慢的速度逐渐走向合并。
弗雷德里克·盖茨的梦想也在基金会中得以实现。在后来的继任总裁中，有两位还担任了国务卿的要职，分别是约翰·福斯特·杜勒斯和迪安·腊斯克。
几十年的慈善事业，不但为社会做了很多好事，也使得洛克菲勒与他的下属建立了良好的友谊，就像一个和睦的大家庭一样。1926年，已经73岁高龄的弗雷德里克·盖茨从洛克菲勒慈善机构退休了。
他预测，这个慈善机构在将来的某一天一定会像标准石油公司一样，成为社会上最具权威的机构。事实证明了他的预测是准确的。这个慈善机构在洛克菲勒的第二代和第三代中得到了快速的发展，所发挥的作用可以和石油和金融业相媲美。通过基金会，小洛克菲勒和他的儿女们将家族势力渗透到美国政治、外交、军事、经济等各个领域，对政府的决策产生了重大影响，成为美国最有影响的基金会，也成为世界上最有影响的基金会之一。
到现在为止，我们对洛克菲勒家族几次重大的慈善行动有了一定的了解。可以说，这个家族百年来的善举不知使多少人受益，这是毫无疑问的。但是，我们同样能够发现在这些善举的背后，其实还包含着更多几乎无人知道的个人目的。
前文我们曾说，洛克菲勒在创建他的石油王国的过程中，遭到了国内外公众的谩骂与憎恶。为了安抚公众舆论，避开政治上的攻击，他决定对社会予以捐赠。而在洛克菲勒时代，所得税的税率是相当高的，也就是说收入越高，向国家缴纳的税款也越多。一些大富豪们将数以10亿计的款项设立基金，同时将资金的控制权牢牢控制在自己手里，这的确是一个好办法。事实上，美国的富豪们都喜欢设立基金会，比如福特基金、洛克菲勒基金和卡耐基基金等。
到1955年为止，洛克菲勒基金有5亿美元，2000年时，更是超过了33亿美元。这些基金在为洛克菲勒财团保持大量的标准石油公司及有关的股票方面起着不可替代的作用。
金融界在探讨设立基金对于利润和控制的好处时，是毫不掩饰的。潘恩·韦伯·杰克逊与柯蒂斯公司曾这样问他的顾客：“你考虑过设立私人慈善基金可能得到的业务和税收方面的好处吗？假如你一旦死亡，你的家庭是否会因为必须出卖你的企业中的股票去付遗产税，而有失去你对企业的控制权的危险？你知道不知道捐款给私人慈善基金，会节省所得税和遗产税？你知道不知道做这种捐款时所需的费用是何等微小？”
从这段话中，我们完全可以得出这样一个结论：设立各种基金的目的之一就是为了逃税。在20世纪初，洛克菲勒的股票和其他投资大幅增值，他的财富以惊人的速度增长。1913年，洛克菲勒的财产已达9亿美元，而在1937年他去世时，保税遗产只有2500万美元。由此可知，他早已把他的大笔资产转入了基金会。
如此看来，洛克菲勒的所有“慈善”举动就大打折扣了。比如盖茨是浸信教会的主要募捐人。当洛克菲勒通过盖茨，取得了梅里特兄弟铁矿的控制权以后，他就为盖茨的教会捐赠了60万美元。在20年的时间内，他的儿子小洛克菲勒又将铁矿区以8500万美元的价钱卖给了摩根，这比洛克菲勒捐赠的投资要大100倍以上。
20世纪30年代，洛克菲勒家族为哥伦比亚大学所捐赠的资金也以同样的方法获得了回报。这个家族从哥伦比亚大学收到了极有价值的纽约市中心区的产业，从而建筑了巨大的洛克菲勒中心。
随着老一辈人的去世，将洛克菲勒看做是“章鱼”和“蟒蛇”的人已经越来越少了，也就是对他憎恨的人已经不多了。而下一代的人只知道洛克菲勒是怎么帮助社会上那些需要帮助的人士，在这些人的心目中，洛克菲勒就是一只蓝天中拥有无限力量的神鹰。