博览会结束之后，陈光甫选择继续留在美国学习商科。1909年，他获得商学士学位后回国。此时，当年主持赴美国际博览会的官员陈琪正在筹办朝廷的洋务实业──“南洋劝业会”。他深知陈光甫是个人才，邀请他参与筹备。劝业会结束后，经人推荐，陈光甫得到“清理江苏财政局”总办应德闳的重用，帮他佐理财务，进而得到当时的江苏巡抚程德全的赏识。
此时正是辛亥革命风起云涌的时候。程德全因为响应革命，得以担任江苏都督，他任命陈光甫为省财政司副司长。在他的支持下，陈光甫终于等到施展拳脚的机会，得以把从海外学到的现代商业思想投入实业运用。他把江苏的两家官钱局进行改组扩展，创办了江苏兴业银行。
这是一家官办银行，拥有发行钞票等诸多特权。经过缜密思考后，陈光甫却做出两个让人“看不懂”的决定：将总行迁往上海，放弃钞票发行权。他认为，迁都上海，可使得银行处在全国金融中心的环境中，便于业务发展，而且远离省府，经营上就能少受政治的干预和控制。至于放弃特权，同样出于长远考虑──如果保留发行权，省政府见钞票随时可以发行，会认为向银行要钱是天经地义的事。银行必然会重蹈过去官钱局的覆辙，陷入难以自拔的困境。
陈光甫以美、英商业银行的经营模式为参考，采取了一系列新式经营方法，努力革除官钱局的旧习气，试图在刚刚起步的中国金融行业树立一种规范、透明的新风气。江苏银行的业务开始渐渐上轨。但一场意想不到的飞来横祸，打乱了陈光甫的全盘计划。
此时，袁世凯已经夺得辛亥革命的成果，孙中山发动的讨袁二次革命被挫败，革命党领袖们不得不再次亡命日本。袁世凯随后四处捕杀革命党人，当他得知炮轰江南制造局的反袁兵舰竟然是从江苏银行支取军费后，立即下令追杀时任江苏银行总经理的陈光甫。
侥幸的是，袁世凯的总统府秘书长是陈光甫的同乡兼同僚，素与之交好。在他的竭力开脱和周旋下，陈光甫才免于一死。袁后来派张勋接任江苏都督，张勋要求江苏银行“抄报银行存户名单”，遭到陈光甫的拒绝。张勋勃然大怒，免去陈的官职。
政治是危险的，最好是远离政治。陈光甫决心避开官场干一番自己的事业，办一家不依赖于官府、不受官僚政客控制的新式私营银行。
1915年的上海滩，已经是远东的金融商业中心了。各种中外公私银行林立，租界里有花旗、汇丰、三井等实力雄厚、经营成熟的外资大银行；此外，还有中国银行、交通银行等十多家中资银行；旧式钱庄生意的发展势头也很猛。
办银行最需要的是资金。此时的陈光甫虽近乎两手空空，却信心满满。他认为他所计划开办的新式银行一开始并不需要巨额资金，也不必和其他商业银行较量股份金额的多少。先期集资，然后逐步增加存款，同时增加放款，资金的积聚和运用得当，银行就可得到发展壮大。
1915年6月2日，宁波路9号，上海商业储蓄银行（下文简称“上海银行”）正式开业。开办的资本额名为10万，实则仅为7万，陈光甫的朋友──前洋务派官僚、买办庄得之认股22500元，陈光甫囊中羞涩，只认了5000元，其中有一部分还是庄得之帮助垫付的。这是当时上海滩最穷的一家银行，被人戏称为“小小银行”。开业仪式上，陈光甫不敢办酒席，不敢请同业董事，连银钱公会的董事朱五楼都不敢请。
这一年的年底，一位忽然到访的来客为陈光甫送来了雪中之炭──1万元股金。委托人正是流亡海外的前民国大总统、当年曾受赠5美元的孙中山，而送钱来的人则为孔祥熙。孙中山慷慨解囊后，宋氏姐弟和其母倪桂珍也投来5000元股金。至此，“小小银行”的资金在半年内已经翻了一倍，达到20万元。
上海银行一开始就把“注重储蓄”放在首位，彻底告别“官商”办银行的传统。通过大量吸收储蓄存款迅速扩大自己的银行资本，找到发展的通路。陈光甫把“服务”定为上海商业储蓄银行的行训，他提出六条原则：要不辞琐碎，不避劳苦，不图厚利，为人所不屑，从小做起，时时想办法。
“人争近利，我图远功；人嫌细微，我宁繁琐”。当时的钱庄根本瞧不上小额存款，特别对银元存款，一般连利息都不付。陈光甫特别注重小额储蓄存款，把存户定位为收入不高的中小阶层社会成员。如一般职员、教员、家庭主妇等等，并在营业室门面、流程和办公方式上力求使银行的形象平民化。虽然都是小额存款，但是由于储户面广，加之资金稳定，集腋成裘，成效可观。为了吸引储户，上海银行打出了“一元开户”的广告。
一天，营业所来了一位不速之客。对方带来100元，要求上海银行为他开设100个户头。银行的工作人员接待了他，一张接着一张地为他填写储蓄存单，直到填完100张。很快，上行信守诺言的消息就传遍了上海。以社会大众为服务对象的“小小银行”终于在上海滩站稳了脚跟。到了1936年，上海银行的储户已有15万7千余人，按当时人口5亿计算，那么每3000人中就有一人在该行开户。渐渐地，其他各家银行也开始仿效上海银行的做法，形成风气。陈光甫本人和上海银行也在社会上获得了良好的信誉。
银行家陈光甫当时非常注重向民族工业放款，以利其发展。张骞在南通创办的实业集团──大生集团，就曾得到上海银行的支持。上行的南通分行由此诞生，成为上行最早的分支机构之一。上行的另一个放款大户，是荣宗敬、荣德生的申新集团──申新纱厂和福新面粉厂。
1934年，荣氏兄弟的申新纱厂陷入困境，因债务太多，到期无法偿还。陈光甫联合几家华商银行组成银团，以申新纱厂的资产做抵押，继续放款，清偿了荣氏兄弟的债务，帮助申新纱厂度过了一次最严重的危机。这种雪中送炭的商业行为被业界视为最好的服务。
经过陈光甫的苦心经营，到1922年，上海银行资本额增至250万元，与浙江兴业银行并列全国第五位；存款达到1345万元，在全国商业银行中居第四位。至1926年，上海银行与浙江兴业银行、浙江实业银行并称“南三行”；到30年代初期，当日这家最穷、最小的小小银行已经成为中国最大的私人银行，在中国的金融界里具有举足轻重的地位。陈光甫本人也跻身于“江浙财团”首脑人物之列。
20年代初期，中国的旅游业还处于空白，其时旅游业务皆由外国在中国的金融机构包揽，如英国人经营的“通济隆公司”、美国的“通运银行”等皆设有旅行部。这些银行在上海、香港等各地的分行，也设有旅行部，包办中外旅客一切旅行业务。这些旅行部还发行旅行支票，时人称为“通天单”（在当时军阀割据地币制不统一情况下，可通行使用）。当时政府对旅游业素不注意，更无人想到收回此项外溢之利权。
1923年夏，颇负盛名的金融家陈光甫在香港拟往云南旅行考察，便到一外商经营的旅行社购买船票，见该社售票处的外籍职员与一女子笑语谑声地交谈，陈静立良久也无人理睬，乃废然而退，转往通运银行购票。途中他思潮起伏，遂毅然决定创办中国人的旅行社，并即搜集有关书籍资料带至船上阅读。
当时全国教育会第九次会议定于10月22日在昆明举行，各省代表均须集中上海经香港转越南乘滇越铁路前往。陈不愿教育界人士在旅行中吃苦头，故致电他的上海银行总行，嘱即与该会议主管人员接洽，包办各省代表在上海之车船食宿，与会人员都称便利。上海银行即于那一年8月设立旅行部，并呈请交通部准代售铁路车票。当时交通部正在召集全国铁路联运会议，素无先例的申请案经过讨论，随即遭到洋人代表的反对，中国代表则对这种与洋人争权的新鲜事物竭力支持，最终通过。上海商业银行旅行部最初仅在上海代售沪宁、沪杭的火车票，后陆续与长江航运、南北海运及外国各轮船公司订立代办客票合同，不久便推广至京绥、京汉、津浦各铁路，并在各地分行添设了若干旅行社分社。1924年，陈光甫针对当时通用银元携带不便，在各地又须“贴水”（兑换当地钱币时的损耗），银行钞票有流行区域限制等困难，故随着旅游业务的扩大，1927年陈光甫决定将旅行部从银行中分出来，成立中国旅行社，各分行的旅行部为下属分社。至此，中国开始正式出现大型旅游事业。
陈光甫在20世纪前半叶的中国有着举足轻重的影响，被誉为“中国最优秀的银行家”、“中国的摩根”。民族危亡之际，他毅然受命赴美，与胡适等鼎力促成美国政府的“桐油贷款”，对抗战贡献甚大。
◎故事感悟
陈光甫创造中国近代金融史上多个“第一”，他的“小小银行”也创造了一个奇迹。企业最初多大并不很重要，要看会不会经营。陈光甫把小企业做成了大事业，因此被称为是中国近代最成功的企业家之一。
◎史海撷英
废两改元
清朝末年，随着对外贸易的开展，西班牙本洋和墨西哥鹰洋等外国银元大量流入我国。受此影响，清政府也开始在广东铸造银元，此后各地仿效滥铸，银两银元并行流通。然而在实际生活中因银两名目繁多，计算手续繁复，而银元相对来说单一方便，所以商民乐意使用。民国建立后，1914年北洋政府颁布《国币条例》，定国币为银元。北洋政府铸造的国币，是带有袁世凯头像的银元，俗称“袁大头”。1915年，这种银元成为上海金融市场的标准银元，取代了龙洋的地位，龙洋行市随即取消。1919年上海金融业又取消了鹰洋行市。但是在实际的商品交易时，银两银元通用的情况使很多商人利益受损，所以“废两改元”的呼声越来越高。但由于北洋政府时期，政局不稳定，国内铸币权不统一，直到南京国民政府成立后，“废两改元”才真正地实施。
1928年3月，经济学家、时任浙江省政府委员的马寅初提出《统一国币拟先废两用元案》，力陈银两制的种种弊端，建议废两用元，进而统一国币。1928年6月在上海召开的全国经济会议提出了包含十项内容的《废两用元案》，决定在半年内完成上海造币厂的建设，开工铸造新银元后，于1929年7月1日正式实施。