越来越多的迹象表明，日军进攻南京的日子已近在眼前，蒋介石守卫首都的决心也在发生动摇。南京到底还能坚持多少时间，日军进攻南京后会是什么样的情况等问题摆在中国人和留守在南京的诸多外国人的面前。随着中国政府机构的撤离，外国各使馆一方面随蒋介石的政府机构纷纷搬迁至汉口，另一方面又力图获取日方的友好态度，观望在日军占领南京后他们在南京的资产和权利能否获得保证。由于美、英等主要国家已经在政治立场上表现出同日本国决裂的状态，所以多数国家的使馆认为自己国家在南京的财产和权利恐难保障，故必须撤离南京。只是南京乃中国历史名城，且又是一国之都，自鸦片战争后，西方列强早已对这座城市有很深的渗透。尤其是各国的教会组织，布道人士和神职人员远比各国驻华使馆在此的根基深厚得多，教会所办的学校、医院、神职场所等遍及城市和乡村。另外，随着西洋现代科技文明在中国的不断传播，例如拉贝所在的西门子等外国公司也在南京有许多分设机构和业务代理，所有上述机构和人员，归结在一起，便形成了一定的外国势力。他们的立场和出发点也各不相同，在走与不走的态度上也不一致。即使留下来的机构和人员，其目的也各不相同。但有一点值得注意，即所有神职人员的出发点是为了不想自己苦心经营的“中国事业”轻易被日军破坏，期待以自己的慈善之心普度苦难的民众。另一部分是有职业使命的医生和在华传授知识的教授们，再者便是拉贝这样的生意人。
“既然留下来，我们就应该团结一致向日方提出要求，争取我们应有的尊严与权利。”其他的洋传教士、教授和生意人都这样认为。
“走的是明智者，留下的是英雄汉。”毕竟，战争是无情的，日本人的凶蛮与罪恶已经摆在这里。如何维护在炮火下的安全和为中国平民做一份有益的事，这让准备留下来的外籍人士们以及他们的大使馆在思考着。
应该说，最早提出仿效雅坎诺神父(Father Jacquinot)在上海设立“中立区”的，是几位留在南京的美国人。上海淞沪战役之中，上海“中立区”不仅为保护在沪外国人利益作出了卓著贡献，而且也为保护数以万计的上海平民立下汗马功劳。因此，留守南京的外籍人士也动了此念。关于整个国际委员会和“安全区”的提议过程，拉贝先生的日记里没有记载，但笔者从“南京大屠杀”史料中找到了一份当年美国国务院档案翻译材料，这份珍贵的史料详细记述了提议过程的始末——关于暂定在南京设立安全区的提案
1937年11月17日
下午5时30分左右，W.P.米尔斯（Mills）先生、M.S.贝德士（Bates）博士、刘易斯·斯迈思（Lewis Smythe）博士（后两位是金陵大学的教授）在约定好之后，来到了帕克（Peck）的住宅。
谈话首先由米尔斯先生和其他人对帕克作了如下说明：
（1） 在南京附近和市内进行战斗时，为了一般市民能避难，进行讨论，暂定提案设立安全区，或称为难民区、非战斗区域。（2）关于场所，研究了几个地方，但决定城内西部地区较合适。（3）当向大使馆罗勃兹上校（他处作上尉）征求意见时，他说，中国的军事当局会同意不把西部地区用做军事目的（因为实质上不会削弱他们的战略部署）。为什么呢？他说，假如在南京附近进行战斗，就要考虑战斗是在城市的东部或南部。（4）关于这项计划，杭立武博士对王世杰教育部长作了说明。王部长不仅表示赞同，而且还主动向军事训练总监唐生智将军（现在为首都卫戍军司令）提出商量。唐将军没有陈述他的意见，但是他同意同蒋介石商量一下这个计划（蒋介石当时不在南京）。
接着，到访者们询问道：如果计划具体化了，大使馆会主动将它通知给日本当局吗？对此，帕克先生说，关于这件事今天已经有了结论。那就是回答金陵女子文理学院明妮·魏特琳（Minnie Vautrin）女士的信所说的内容，自己也会约定乐于接受这份功劳，将这一情报传达给日本。
接下来帕克先生指出如下内容：
如果有人知道了设定非战斗区域的计划是美国人想出来的话（也许会是这样的），其结果，两国任何一方破坏了协定的话，那么预定发起这项计划的人无疑就会受到大家的憎恶。因此，他主张提倡、推进这项计划的人为了避免自己受到失败的责难，采用一个没有误解的方法，应该由中国军方当局自己主动地尝试加入到这项计划中来。
帕克先生进一步说，美国大使馆当然在向日本当局传达非战斗区域计划是基于中方所接收的实际根据之前就想知道这一点。
到访者从内心里对这些见解表示赞同。
米尔斯先生提议说，正如帕克先生所说，如果大使在那天晚上预计见到孙科博士的话，试着向他探询一下这个问题也是一个好主意。到访者当中，不知哪一位决定明天再拜会帕克先生，商谈一下有关安全区的问题，谈话就此结束。
那天晚上，大使和帕克先生与孙科博士一起共进了晚餐，张群将军和南京市长马超俊也一起就座。谈话中，大使说道：说明一下上述计划的概要，话题是出自没有公务的平民，目前它还处于议论阶段，被问到了此事，就回答说如果计划具体化了，就乐于斡旋向日本当局传达等等。
市长好像对安全区的提案还没有听说过，就此他本人没有发表任何意见。但是，在整个晚餐中，他好像一直在思考那个提案，像是发现了其可能性。当问及他时，他说自己打算留在南京。说起来，推测像是否定。
应约翰逊大使的要求，帕克先生把那天中午同米尔斯、贝德士、斯迈思交谈的内容主旨向在座的中国人说明了一下。
一同进晚餐的张群将军是现国民政府处于非常时期最核心的人物之一。他建议道：对于安全区的计划，讨论这个问题还为时太早。但是，他的发言预示着一种黯然的假说，即日军一定会来到南京附近。我想他的发言只不过是想缓解一下当时严肃的气氛。
从中可以看出，这个提议首先是由几个美国籍教授有了想法，再征得美国驻中国大使馆意见后，口头向中国政府的高层相关领导通过气并获得赞赏后才提上议事日程的。
应该是11月18日，即斯迈思、贝德士等同张群这些国民政府实力派官员有了沟通后的第二天，他们又聚在一起讨论了一些实质性问题，比如请谁来当头儿。
这是让美国人感到有些头疼的事。按理他们肯定不会放弃这个国际委员会的主导权或者说领导权的，但严酷的现实摆在面前：现在与日本人打交道，美、英等国家已经没有什么约束力了，唯一让日本可能有所考虑“友好关系”的，只有德国人了。
“假如我们要在南京建立‘中立区’，就得选一位能与日本人打交道的人当我们的头，否则我们这些人将无所作为，弄不好还会被日本兵‘格杀勿论’呢！”为了筹备这件事，在金陵大学任教的贝德士博士想到了这一层。
“西门子的拉贝先生应该是个合适的人选！”斯迈思想到了他曾经接触过的这位德国人。
“这事非他莫属。关键他还是纳粹党员，日本人应该对他另眼看待。”
“我们接触过拉贝，这是个办事认真、细致，且不乏热心，又有商人机智的汉堡人。相信他能干好。”
几位美国教授和传教士为共同选中拉贝而欣慰。“日本人已经冲过中国军人设立的南京外围防线，设立中立区的事不可迟疑了。今晚我们就把拉贝找来商议吧……”斯迈思教授建议，“就到我家吧。这位汉堡商人来过我家，他会喜欢的。”
第二天，也就是11月19日晚饭时间。斯迈思教授家颇为热闹，在鼓楼医院和金陵大学任职的美籍医生与教授差不多都到场了。拉贝应邀前来。
贝德士教授代表美籍人士向拉贝介绍了他们事先商议的准备在日本军队占领南京之前成立一个安全区国际委员会，同时着手建立类似上海雅坎诺神父在租界设立的“中立区”，及其任务和所要做的事，并隆重邀请拉贝出任该国际委员会主席。
拉贝激动地听完美国朋友们的介绍后，惊讶地问：“为什么主席是我呢？你们可都是杰出的人物呀！”
“我们认为，目前只有先生你是最合适的人选。除了你本人的能力和有一颗善良的心外，你的德国国籍和国家社会主义工人党党员的身份，是我们所有人都不能相提并论的。”马吉牧师说，“当然，这是个光荣而艰巨的职务，需要拉贝先生你本人有此志愿。”
“对，这是我们这些人一致的看法。”贝德士等一齐向拉贝投来赞赏的目光。
拉贝认真地看了一遍到场的每一位“山姆大叔”（美国人）的目光，他确认了这些人是真诚和友好的，便十分慎重道：“大家认为我的德国国籍和纳粹党的党员身份在日本人面前十分有用的话，那我就接受你们的建议。”
“OK！感谢上帝！感谢拉贝先生！”
“我代表所有留在南京的美国人和其他国际朋友向拉贝主席致敬！”
“向拉贝主席致敬！”
这一个晚上，拉贝也是第一次有机会认识了诸多美国朋友，包括马吉牧师等，他们现在可都是他的“部下”了——国际委员会成员。
“好，太好了！祝贺拉贝先生！”回到洋行办公地，拉贝将这件事向他的中国同事韩湘琳一说，韩立即表示，“我代表南京市人民感谢您！拥护您——尊敬的拉贝主席！”
“我无法想象日本人占领下的南京将是个什么样子。更不知道我个人是否有能力承担如此重要的责任。韩，你是中国人，你一定要帮助我完成这个使命，这关系到我个人的荣誉，也关系到我作为纳粹党员和德国人的荣誉。”拉贝用期待的目光盯着他十分信任的韩湘琳。
“放心，拉贝先生，只要您一句话，我一定为您赴汤蹈火！”韩在此之前就曾对拉贝说过，只要拉贝留在南京，他就跟着留在南京，死而无悔。这回又听韩如此表决心，拉贝非常激动，给了韩一个结实的拥抱。
“韩决定与我同甘共苦。他是一个正直的人！”拉贝在当日的日记里如此赞赏他的中国同事。
现在，拉贝雄心勃勃，决意大干一场。上海那边不断传来的消极消息，使他不得不有这样一份雄心。“否则将毁掉德国人一切荣誉”，拉贝内心有股强烈的使命感。当他把这事报告给了德国驻华大使陶德曼博士后，得到了对方的同意。大使同时还告诉拉贝：使馆方面暂时也要留下3个人：许尔特尔、罗森博士、沙尔芬贝格。
“罗森这个人并不想留在南京，这样的人怎么可能做好事呢？”拉贝对罗森这人很不喜欢，觉得这人贪生怕死。他希望大使能撤掉对罗森的命令，但没有获得批准。
韩湘琳便劝他：“您得跟大使馆的人搞好关系，他们是些什么人，说不准在背后还会告您的状呢！”韩湘琳提醒他。
“我才不怕背地告状的卑鄙小人呢！我们所有留在南京的人都是英雄，都是要去面对日本人刺刀的英雄，他罗森如此胆怯的人，怎么可以跟我们战斗在一条战壕里呢？我弄不明白大使先生是怎么考虑的。”耿直的拉贝依然愤愤不平，“留下的每一个德国人，都应当像我们汉堡商人一样，用你们中国话说，是一个萝卜顶一个坑！”他说。
11月22日上午，大使馆打来电话，要拉贝去使馆开会。打电话的恰恰是罗森博士。“我必须有个汽车特别通行证，否则许多事都难办！”拉贝向对方提出，似乎带着某些情绪，但当时的情况确实如此：鉴于南京城内的情况，蒋介石政府已经在前几天宣布全城晚上戒严。作为德国方面的代表和未来国际委员会主席的拉贝提出这种要求也不是没有道理，可是使馆的罗森博士并没有这样认为，他觉得拉贝这人还没有上任“主席”，便开始“牛”起来了。
“这绝对不是可有可无的事，就像我们西门子的任何一台机器上的螺丝钉一样，少一个都不行，没拧紧也不行。作为德国利益的代表和国际委员会主席，我必须有一张汽车特别通行证！”在使馆与罗森见面后，拉贝不依不饶地提出上面的请求。
“那好吧。我同中国政府商量商量。”罗森直摇头。
“小子！你怕死，但去向中国人要个特别通行证还不至于让你生命有什么危险的。”拉贝心头有些不快。
当日下午5时，国际委员会正式成立，并作出了在南京设立平民中立区的决议。拉贝荣幸地当选主席。
“感谢大家的信任，我一定尽全力领导好这个组织，并愿同各位协作好。”拉贝的履职“演说”词并不多，这让听惯了德国人华丽辞藻的在场的人士多少有些失望。“非常时期，非常语言，重在行动嘛！”拉贝忙解释道，于是大家又都笑了。
办事向来一板一眼的拉贝领导下的国际委员会，立即就根据确定的任务，拟了一份声明给日本当局。这份声明需要通过美国大使馆的电台发给美国的上海总领事馆，再由上海的美国总领事转交日本驻华大使。
“我们的这份声明，在日本大使收到后，他们不能随意发表，这涉及外交，我们这个组织目前还没有得到中方和日方的批准，不然的话，我们有可能一下子陷入被动。因为一方面外交上会有些不顺畅，另一方面中方和日方反对我们这样做的话，所谓的中立区有可能反倒让我们成了日本军队的帮凶。”主席拉贝已经开始转动起他那缜密的脑子了。
“这个意见非常重要。”到会的全体委员一致同意。
国际委员会的第一份文件出笼，一式两份，分别是中文和英文版本，对象是中方政府和日方政府。声明的大致内容如下：考虑到可能在南京或南京附近爆发敌对行动这一情况，由丹麦、德国、英国和美国公民组成的国际委员会特此建议中国政府和日本政府为逃难的平民建立一个安全区。
国际委员会有责任取得中国政府的特别保证：撤除拟建的安全区内所有军事设施和包括军事交通指挥机构在内的军事机构；安全区内不准驻扎武装人员，携带手枪的平民警察除外。禁止所有士兵与军事团体进入安全区，无论这些军事团体具有什么性质，无论其军官军衔为何种级别。国际委员会将努力使上述保证得到尊重和令人满意的执行。
以下具体标明的地区，国际委员会认为适合用来保护逃难的平民。这个区域位于城区的西部，迄今为止，日本空军在空袭时始终注意使其免遭破坏。
所建议的安全区界定如下：
东面：以中山路为界，从新街口至山西路交叉路口；
北面：从山西路交叉路口向西画线（即新住宅区的西边界），至西康路；
西面：从上面提到的北界线向南至汉口路中段（呈拱形）（即新住宅区的西南角），再往东南画直线，直至上海路与汉中路交叉路口；
南面：从汉中路与上海路交叉路口起，至新街口起点止。
国际委员会将负责用白色旗帜或其他有待确定的标志清楚地标出这些边界，并将其公布于众。委员会建议从收到双方政府表示完全同意的通知之日起，视安全区为正式建立。