当年，杜月笙为了寻找庇护伞，拜“通”字辈的陈世昌为“老头子”，加入了青帮。因此到了黄金荣门下当跟班。黄金荣是虞洽卿的宁波同乡，此人从光绪十八年（1892年）起任法租界巡捕房包探，后升探目、督察员，直至警务处唯一的华人督察长。“一战”后，因维持租界治安有功，被聘为法租界公董，领少将衔，是华人获得的最高职位。幕后，他收罗门徒过千人，操纵上海滩的鸦片、赌博等黑色生意，在当时已是有名的“大亨”级人物。
20世纪初，上海像磁铁一样，吸引了大量四面八方的移民来此谋生。据统计，从1910—1930年，短短的二十年内，上海的人口从100万猛增到300万。随着人口的急剧增加，租界内的社会治安问题日益突出。尤其是在十六铺、郑家木桥、洋泾浜沿岸、苏州河畔、八仙桥这些“三不管”地段，地痞流氓势力迅速蔓延滋长。上海因此成为了青帮的欣荣之地，据统计，当时全国青帮大字辈的“老头子”仅存100余人，上海就有39人，占到大字辈总数的四分之一。
起初，公租界和法租界分别从印度、越南调来一批人，负责治安巡逻，但是因为语言障碍，租界当局不得不招募华人做巡捕，他们尤其喜欢招募熟悉当地情况的“地头蛇”，让他们充当“包打听”。
在租界中，如草丛生的妓院、赌场、烟馆……成为了黑帮社会孳生的温床，而租界当局则扮演了助产师的角色。地痞流氓、帮会分子这些暗势力，不仅没有成为治安机构的打击对象，反而成了维持社会治安的依靠力量。当时上海的英国总领事就曾向国内汇报说：“青帮大亨们运用中国方式处理中国民众的纠纷时是十分有用的。”在民国时代的上海，民间社团的发达程度可以说是空前绝后的。
在这种匪夷所思的“默契”下，黄金荣以租界巡捕的“合法”身份，大肆发展自己的队伍。尽管名号在江湖人尽皆知，但黄金荣却从未正式投过贴子加入青帮，按“帮规”属于没有名分、没字辈的人，但他自恃权势，不仅广收门徒，还公开宣称：“老子要横在大字辈头上一笔，是天字辈。”
为了进一步扩大势力，免落青帮人的口实，黄金荣嘴上还是认了张仁奎为“老头子”。鉴于黄金荣在上海滩的势力，青帮也就只好默认，无法和他较真，张仁奎自然也乐做这个人情。黄金荣收徒弟认钱不认人，只要肯送礼就来者不拒，写一张帖子，上写“拜黄金荣为老师”，下写“门生某某敬拜”，即可成为师徒，打破了青帮繁缛的入帮礼节。因此，黄金荣的徒弟不下两三千之众，各色人物一应俱全。
在青帮成员的推荐下，杜月笙进入黄公馆混饭吃，由于得到黄金荣老婆林桂生的赏识，从此青云直上，很快就由跟班上升为鸦片提运，并负责“经营”法租界三大赌场之一的公兴俱乐部，成了黄金荣最得力的心腹帮手。
杜月笙常说，英雄不怕出身低，关键要有一个好脑子；人活在世要靠两样东西，胆识和智慧。杜月笙一方面替黄金荣办事出主意，另一方面靠抢劫鸦片烟土自立门户。杜月笙的鸦片生意越做越红火，他的势力很快与老板黄金荣旗鼓相当。在夺得鸦片贩运的垄断权后，为了使鸦片生意不断扩大而且能够合法化，杜月笙便伙同黄金荣、张啸林于1918年成立了“三鑫公司”。
青帮经营的三鑫公司，实际上是帮会、鸦片商以及租界当局利益妥协的产物，垄断了鸦片的运输、包销等业务，成为了近代中国最大规模的贩毒集团。它如同一家保险公司，专收鸦片运销的保险费。凡进出上海的鸦片和其他毒品，均由三鑫公司提供保护，每箱鸦片抽10%的保险费，作为公司收入，如发生被窃，即由公司赔偿。
垄断之下，它的年收入相当于当时政府财政收入的六分之一。其暴利之令人咂舌，不禁让时人感叹，在上海滩，惟有三鑫公司一家，能被人叫一声 “大公司”。黄金荣、杜月笙、张啸林，“上海三大亨”由此诞生。
杜月笙（右）与黄金荣（左）、张啸林（中）并
称旧上海滩三大亨为了取得“上流社会”的支持，杜月笙一改传统流氓身着短打、手戴戒指、卷袖开怀的打扮，刻意地一年四季身着长衫，不论天气多热，长衫最上面一颗纽扣也从不解开，给人以文质彬彬的印象。同时，他利用各种机会，广结名流，除了国学大师章太炎，杜月笙还结交了学者章士钊、名士杨度、诗人杨千里、才子杨云史、教育家黄炎培等，有人称他是“当代春申君”。
此时，在杜月笙身上却再也找不到那个水果小贩的影子了，他产业也早已打通黑白两道，扩展到金融、纺织、航运、面粉、教育、报业等领域，成为名副其实的大资本家、实业家了。以至在上海，杜月笙成了“路路通”，有所谓“杜先生一句话，人人都要买他的面子”。而他对黄金荣的称呼，也由“黄老伯”逐渐变成“金荣大哥”。
1931年6月，杜月笙为了炫耀显赫，在浦东高桥买地十余亩，修建杜氏家祠。章太炎发挥专长，亲自为杜氏修订家谱，“考证”出“杜之先出于帝尧”。当时的“杜祠落成典礼”，简直是上海开埠近百年来最热闹的几天。政府官员、商界人士、工会代表、警察、青帮徒众……上万人列队而行。一路鼓乐齐鸣，鞭炮震天，所经之处交通断绝，黄浦江畔特备了140艘汽轮做摆渡船。
庆贺的队伍前面抬着各界要人送的大幅匾额：蒋介石送的是“孝思不匮”，张学良送的是“好义家风”，吴佩孚送的是“武威世承”，段祺瑞送的是“望出晋昌”，甚至连西藏的班禅额尔德尼都送来“慎终追远”的匾额。典礼期间，几乎全国所有的京剧名角如梅兰芳、马连良、程砚秋、尚小云等人都被邀请来，组成了中国京剧黄金时代的“梦之队”，珠联璧合搭台唱戏，轰动沪上。
一条泥鳅修成龙，杜月笙缔造的从赤贫到暴发的“海上传奇”，如同摩根、福特、洛克菲勒等人是“美国梦”的象征一样，成了当年上海滩十里洋场的“励志”代表。
1937年7月10日是上海市政府成立十周年的日子，上海市政府举行了盛大的庆祝会。然而，就在3天前，日本军队在北平卢沟桥发动“七七事变”，中国由此卷入一场长达八年的艰苦抗战，上海亦不能幸免。
11月8日，上海沦陷，南京政府决定内迁重庆。为了阻止日本海军大规模溯江西侵，蒋介石提出了封锁长江的“江阴沉船计划”。杜月笙的大达公司和虞洽卿的三北公司身先士卒，将一艘艘轮船行驶至江面，“殉葬式”地凿船沉江，以阻塞长江航道来阻敌。
从抗战开始，租界先是变为“孤岛”，到“二战”全面爆发，租界又被日军占领，后被汪伪政府收回；抗战胜利后，租界再未恢复，上海市政归于统一。尽管杜月笙率领的青帮在抗战期间积极活动，在情报、物资等方面大力支持国民政府，为抗战立下了功劳，但仍免不了兔死狗烹的命运。
当租界等外在条件相继丧失，青帮的利用价值迅速下降，由盛转衰，直至灰飞烟灭。“沦陷时上海无正义，胜利后上海无公道。”杜月笙对国民党的愤恨与日俱增，“过去帝国主义统治租界时期还有些建设，秩序也比较好，国民党来了以后只知道要钱。”他甚至还说蒋介石拿他当夜壶，用完就往床底下一扔。
1949年，国共两党进行最后决战。杜月笙观察着形势，知道必须再作一次重大选择了。青帮三大亨中，张啸林在抗战期间投敌卖国，1940年被“锄奸”；黄金荣不愿以八旬高龄流寓海外，已决定留在上海；杜月笙也考虑留下，但他有沉重的历史包袱：1927年“四·一二”政变时，和蒋介石取得默契的杜月笙，部署众徒杀害了包括上海总工会委员长汪寿华在内的众多共产党人。
经反复权衡，杜月笙决定远离政治漩涡，离开上海。1949年5月1日，辞别黄金荣后，杜月笙举家登上了拥挤的荷兰“宝树云”号客轮，驶往香港。当轮船经过黄浦江，行至吴淞口，老病的杜月笙伫立船头，望着昔日赤手空拳打下的一个花花世界，如今都被风吹雨打去，唏嘘不已。
1951年8月16日下午，在销毁了历年别人写给他的所有借据后，63岁的杜月笙咽下了最后一口气，临死前他对子女说，“我不希望我死后你们到处要债”。最后，杜的骨灰被带到台湾安葬，安息在台北县汐止秀峰小学的后山上，而他的遗愿是葬在上海浦东高桥，至今没有实现。
上海青帮的“海上传奇”就此谢幕。