从某种意义上说，青帮是在中国近代史上影响最大的帮会组织。从清末开始，它几经变故，不断扩大自己的队伍，到本世纪20年代达到它的鼎盛时期。20年代，活跃在政治舞台上的各党各派，以及发生在中国现代史上的一些重大事件，都与青帮有着密不可分的联系。
说起青帮的起源，有多种传说，且其间往往相互矛盾，漏洞百出，皆因帮会成员口头相传，缺乏原始真实记录所致。因帮会长期以来一直处于隐秘之中，最多是半公开活动状态，外界很难知晓其内幕。帮中成员又普遍不擅文字，只有少数能写几笔的帮中成员根据从不同渠道得来的传说和记录，编了不少各有特色的“秘籍”。通过这类东西再加上清廷史录，我们可粗知青帮历史的大致起源。
青帮的产生晚于洪门和白莲教，因此关于青帮的历史传说经常与后两者搅在一起。中国历史上的帮会，甚至一些农民起义，都喜欢给自己找些古代圣人做始祖，祖师越多越出名越好，以证明自己是源出正路，而非左道旁门。青帮甚至把自己的历史渊源追溯到当年一苇渡江、嵩山面壁九年的僧人达摩那里。经过禅宗五祖神光、僧璨、道信、弘忍、慧能而到金碧峰，这才正式和青帮接上了头。
青帮有所谓的“前三祖”和“后三祖”之说。前三祖打头的就是金祖，即金碧蝉（名幼孜），他祖居南京（那时叫应天府），系麒麟门外金家村人氏。生于元末顺帝至正六年（1346年），是明朝初年洪武时进士。先在北京燕王宋棣府任职，后随军南下，负责都督粮台。燕王南京正位后，任工部侍郎。明成祖永乐年间，曾任文渊阁大学士。及成祖亲征辽东，金幼孜奉命都督粮运，不久辽东平定，随成祖凯旋回朝。当时，他见世之无道，官场险恶，厌弃红尘，衷心仰慕达摩，因此，上表辞官，辞官隐居栖霞山紫云洞，参悟佛法，深有所得，后又去五台山拜禅宗临济派三十六传鹅头禅师，取法号“清源”，从此在紫霞洞隐修，最后死于五台山紫霞洞。这就是青帮以达摩为始祖，把金幼孜尊为第一代祖师的来历。
前三祖的第二位是罗清，号静清，祖籍山东即墨。他祖辈为军，隶属于密云卫，著有《苦功悟道卷》、《吧世无为道》、《破邪显正钥匙卷》、《正信除疑自在卷》和《巍巍不协泰山深根结果宝卷》，称为罗祖五部经。实际上，罗祖教的教义与白莲教没有多大差别，可谓是白莲教的变种。罗祖五部经的内容也十分系统完整，被许多秘密宗教奉为经典。因此，罗教逐渐成为在民间具有相当影响的秘密家教。而青帮将罗祖奉为祖师，主要是为了团结徒众，即借用罗祖的名义加强内部的向心力而已。关于罗祖，传闻很多，也最有神秘色彩。他道法不凡，妙算玄机，是进士出身。嘉靖年间，把持朝政的是奸人严嵩，要想做官非有厚礼送他不可。一时朝纲败坏，有血气的正直之士不愿与之为伍，为避奸臣陷害纷纷自谋出路。这罗祖当年曾官至监察御史户部侍郎。因其不但读得书本，也能舞枪弄棒，曾以都督职务领兵征讨吐鲁番。一次曾陷于绝境，被番兵围困在两狼山下，粮尽三日。
忽有一和尚来告，寺后石崖下有清源禅师在明成祖北征辽东时所储存的粮草，结果发现果如其言。全军饱餐后重振声威，大败番兵，番主臣服。罗清班师回朝途经五台山，访金碧蝉之遗迹，承其衣钵。然后由恨修引到金祖舍利塔下跪拜，成为金碧蝉徒弟。后来这种在师父死后拜师的做法被称为“灵前孝祖”，青帮徒辈多有仿效。灵前孝祖是有要求的，一是拜的师父要有名气；二是进行灵前孝祖的徒弟要有势力有名气；三是要经过青帮辈分较高的首领一致赞同。话说罗祖拜师后，仍去做官，为政清廉，谨慎小心，可后来仍未逃过严嵩父子之手，入狱12年。只因万历年间边关吃紧，方才复出，并再立战功。但他已看破红尘，不愿受禄，径去栖霞山紫云洞他师父修炼过的地方隐修，了此残生。
前三祖第三位是陆逵，号道元，江苏镇江丹徒人。精于武艺，曾出任江右总兵，明亡后隐居茅山。因慕罗祖师功德及其能通满、蒙、藏语言之能，并认准罗祖承接禅宗正传，故往五台山求道，拜罗祖为师。清初，四海云游。他曾到新疆、甘肃回民地区，针对回汉宗教纠纷，屡起事端，即向朝廷提出感化之策，为康熙帝赞许，授予西北宣化法师名号。他赴任西北宣化，订立“回汉约法”，规定民族之间互相尊重，各守其制，互不侵犯。回京复命后，康熙大喜，康熙因其功绩，曾议授予官，他因不恋尘世，乞归佛门。后被封为“靖国尊人”，其师罗清被封为“一清佛祖”。晚年陆逵在杭州武林门外宝华山讲经说法，听者甚众，殁于雍正七年（1729年）。
以上是金碧蝉、罗清、陆逵三人，帮中人奉为“前三祖”，都与佛教禅宗有渊源，青帮前三祖可说均为佛门中人，这使青帮后来有着浓厚的宗教色彩。
青帮的真正祖师，起自陆逵的徒弟翁岩、钱坚、潘青三人，即所谓的“三后祖”。
翁岩，字福亭，号德慧，江苏常熟人，祖居山东昌府聊城县，其后迁居河南南阳府。出身秀才，后弃文去河南嵩山少林寺习武，喜与绿林好汉交往，并入天地会，为会务奔走四方。他到处为家，性情刚毅，不善辞令。
钱坚，字福斋，号德正，江苏武进人，迁居安徽徽州府。为人精明勇敢，从父经商，移居开封。16岁父母双亡。无心继承父业，改习拳术，并入天地会，与翁岩同隶张岳部下。张岳是天地会中的首领。
潘青，字清宇，号德林，浙江杭州人。先移住安庆，后又迁居河南开封，承父母余荫，富有财产，幼年读书，颇以诗词歌赋自豪，武艺亦佳。他为人仗义，好交游，地方上以“小孟尝”称之。
翁岩、钱坚二人奉张岳之命，到安徽访潘清，三人都是天地会道友。
三人一见如故，遂结拜为异姓兄弟。三人结拜后，一起出门访求志同道合的人。到达杭州后，在陆逵处听讲，三人对陆逵非常敬服，要求投拜门下，陆逵见三人学道心诚，同意收为弟子。
翁岩、钱坚访到潘清后，回来后向张岳复命，张岳志向远大。他正在联络各方志士做一番大事业。
一天，张岳带领翁岩、林锦去茶僚喝茶，见一酒徒当街欺人，原来这酒徒何义正是县太爷的亲戚，张岳走出茶僚大喝一声“住手”。
何义不晓得张岳厉害，加之又多喝了点酒，根本没把张岳这个老头放在眼里，二话没说，就叫手下把张岳赶出盐局。张岳忍无可忍，只两拳便送何义上了西天。张岳原准备为双方说和，这回一时性起，打死了人，就准备好汉做事好汉当，去县里自首，可又被他的高徒翁岩当即劝住。
翁岩说：“本县如此昏官，为了此事吃官司万不可行，不如找个地方避一下。”
说话间官军已来到门外，别无出路，张岳带领林锦和翁岩，依仗一身武艺，趁夜杀出，逃到徐州绿林人物陈园那里。
陈园生得与宋江一般，黑矮肥胖，是个讲义气有胆识的黑道人物，平时聚众干些打家劫舍的勾当。现见来了诸位英雄，十分欢喜，马上请各位英雄做了头领。张岳本是个天地会头领，他的徒儿翁岩当然也是他的部下。来到陈园这里后，张岳很快接纳了天地会的人物钱坚、潘青为核心，几位头领商议要联合天地会，干一番事业。
有一天，三人正在闲谈，仆人跑进来急报：“有个和尚不待通报，直闯进来。”
三人来到中堂，只见一僧相貌古怪，形态龙钟，一见三人，便双手合十为礼道：“恭喜三位，尔等大富大贵的机会到了。”
三人莫名其妙，请和尚上座，这才问来者何人。一听老和尚是大名远扬的罗清佛祖，便一起跪拜，请高僧指点迷津。
祖师说：“当今皇上悬挂黄榜，征求天下奇才押运粮米。若能肃清运河匪患，保证粮船安全进京，便有重赏。你们与白水村陈园那里的好汉多有关系，若去揭了黄榜，招安了白水村大寨，其余小盗自然不在话下。”
三人还未反应过来，罗祖又说：“你们所为之事，贫僧尽知。我知过去未来，依吾言去揭黄榜，定是富贵双全。否则死无葬身之地。”
三人崇拜罗祖，不敢不信其言。遂拜罗祖为师，遵师命去揭黄榜。自此开始有了真正的青帮历史。
漕运是封建时代的一种制度，即把河南、山东、安徽、江苏、浙江等省的一部分田赋，经运河运到北京，供统治者和军队所需。青帮后三祖应召护粮后，沿运粮河道的大码头，建立起完整的组织。漕运之量巨大，清代每年所运之粮超过400万石。从事这个行业的有几十万水手和上万艘粮船。朝廷为管理如此庞大的漕运，特设立一个“漕运总督”。他是一个上马管军，下马管民的角色。带的兵叫“漕标”，也称“卫军”。然后卫下设所，所下有联，联下是帮。一般是卫帮合在一起叫，如“江安卫五十二帮”；或径称帮名，如“光武六帮”等等。但这一套统治组织欺下瞒上，压榨船民，使下层水手生活濒于绝境。因此，秘密结社，保证生存是当时最可行的选择。这种结社还是利用官方旧有的粮帮结构，故一切名称不变。其中势力大，且对青帮日后发展最有影响者是所谓“安庆帮”，青帮历史的早期传说多与此帮有关。这青帮后三祖揭榜护粮后，一时间匪盗不兴，风平浪静，直到乾隆年间，其所运漕粮，从未误过钦限。漕督奏明皇上，准其开帮收徒，直受漕督节制。
雍正三年，清政府悬榜招贤，加强漕运，清政府意图以粮帮为基础，组织一个大团体，乃至河南抚署揭榜承运。
当时的持台田文镜是杭州人，三人向田文镜陈述了整顿漕运的办法，田与漕督同上奏本，经雍正批准，指定归漕运总督张大有节制，并听命于勘视河工的钦差大臣何国宗指挥，准许开帮收徒，以之统一粮务。
三人接受任务后，先在开封潘青家中招集了各地天地会头目商议，得到了一部分人的赞助，并联络旧有粮帮，统一了粮帮组织，推举翁岩、钱坚、潘青三人为首领，组成了“道友会”。他们开办粮运，首先设厂造船，统一尺寸，绘成图样，并亲自监工督造，传说共造99999只半（所谓“无半不成帮，半只是脚划子”）。第二步是协助清廷开办浚河工程，动员山东民夫165000人，用银110万两，开浚河道，打通了南北水运。布置完成，乃开大香堂，广收门徒。翁岩按八仙之数收8名；钱坚按二十八宿之数收28名；潘青按三十六天罡之数收36名。三人按七十二地煞之数共收了72人。
此后，徒弟又收徒弟，青帮组织从而扩大起来。
青帮建立后，在杭州武林门外宝华山建立“家庙”及12座“家庵”（翁、钱、潘的高徒12人家庵），承运漕粮事务所就设在家庙内，并公议订立了十大帮规、香堂仪式、孝祖规则、十禁十戒、家法礼节等等规则。
翁、钱、潘三人首先联络旧有粮帮组织，组成一个“道友会”。供奉达摩为始祖，金幼孜为第一代祖师，罗清为第二代祖师，陆逵为第三代祖师。翁岩等三人又请教陆祖扩大帮众之事，陆祖以祖传24字相授。
此24字就是：“清静道德，文成佛法，能仁智慧，本来自性，圆明兴礼，大通悟学。”这里面“清静道”三家已为清源、静清和道元三位祖师所用，正好三辈。真正的帮会用字是从“德”字开始。后来帮中人所称的小祖师王德降，怕徒众日多，24字不够用，又续订24字，即“万象皈依，戒律传宝，化度心回，临持广泰，普门开放，光明乾坤”。
实际上，解放前的上海青帮，主要是“大通悟学”四辈，青帮依此形成严密的纵向承启关系。
各地香堂主（亦称山主）由当地辈分最高的青帮分子担任。加入青帮需由青帮中的人介绍，然后，拜某堂堂主为师父，由师父给其排辈。各香堂都没有专门负责各项事务的职位。
“老大”一人：即堂主，执掌一切军机要务。
“老二”两人：掌管粮秣财源。
“老三”四人：负责具体行动的执行。
“老四”六人：管理全山徒众的劳绩，掌管票符号等事。
“老五”一人：管理全帮徒众的赏罚。
考虑到要保证组织的严密性，青帮收徒也非常慎重，贯以“师访徒三年，徒访师三年”的原则，且“本帮不许本帮作引进”，入帮之人要经过详细审查，“盘问三代无脸面，身家不清休进帮”，直到确认其身家清白，入帮动机正确，并非投机取巧之人和有意破坏青帮者，堂主方才批准举行入帮仪式，接纳此人入帮。
为了便于活动，青帮内部联系需要用暗语，另外还有问答见面的暗语，有识别的标志，如徽章佩戴的饰物等，还有规定的识别动作。青帮中人在任何码头都可以利用暗语、标志找到自己的同党，如此便能在危难之时得到同党的帮助和解救。在茶馆酒楼也可以根据杯盘、碗筷的放置识别是否为青帮中人，青帮一般会将筷子放在杯子的外侧，以表明自己的身份。此外，青帮内部还有一套行话，多为漕运术语转化而来，如：
“空子”：原指从京师返南的空船。在帮内则指末入帮的新人。
“溜子”：原指小巧轻便的小船。在帮内则指负责传达帮主命令，联络各帮关系的通讯人员，或者指离帮独行的帮会中人。
“窝子”：原指粮船抛锚避风之地。在帮内则指据点、码头及各行职使，即所谓的“船上十三行，各有各窝子。”