我国目前银行组织体系还带有明显行政性和计划性特点。也就是分支机构多少和规模大小都是根据计划经济的需要，运用行政手段明确的。银行内部上下级部门之间也保持一种行政隶属关系，各级部门都有相应的行政级别，资金调度因此按行政命令垂直进行，这明显不能适应市场经济中资源配置以市场为导向的要求，导致资金使用在微观和宏观层面上的低效率。由于分支机构设置与行政区划紧密相关，这就在招工、干部任命等方面难免要受制于同级政府，为同级政府的行政干预留下了缺口。国有银行名为一级法人，但各分支机构都有自己的利益，相互之间也确实在进行资金拆借等活动，它们因此而具有准法人资格，这就事实上造成了一级法人和准法人并存的格局。同时，国有银行按行政区划层层设立的机构，这就造成了资金调度不灵、信息传递不畅、管理难度增大和规模效率低下等弊病。此外，庞大的分支机构网络，使得四大国有商业银行在存贷款总量、从业人员数量、获得中央银行的低息贷款规模上都处于绝对的优势，进而形成金融业高度垄断的格局，这既造成国有银行运行低效率，又使其凭借特殊地位，为既得利益而阻碍银行业改革的深化。
我国国有商业银行组织体系的重构，需要遵循以下几个原则：一是根据专业银行组织体系的现有特点和中国经济发展和改革的客观需要，既不能对原有机构来一个大撤换，造成人力和物力巨大浪费，又不能换汤不换药，没有实质性的改革措施。二是要有利于打破垄断，促进竞争，体现优胜劣汰的原则。三是要体现自主选择的原则，即银行在分支机构的设置、规模大小的确定上都要有自主决策权，而不应有过分的自上而下的行政干预；在改革过程中，应充分发挥各商业银行的主动性、创造性和能动性，由商业银行根据自身的特点和发展要求，选择符合自己经济利益的组织体系是十分必要的。四是银行的分支机构设置（地点、数目、规模等）应遵循效益性、流动性和安全性原则，在对成本和效益进行比较研究基础上确定。即按市场导向的原则设置机构，按设置后的业务来源、经营成本、预期利润来决定是否和应在何处设置机构；按区域经济联合、区域经济发展水平，立足于经济金融中心城市来设置机构，使之服务于地方经济，又具有相对独立的经营自主权；按规模经济原则保持适度的资产经营规模。最后，新型的国有商业银行组织体系应该是结构层次简单，能保证信息在组织内的迅速传递和反馈，以减少决策失误，降低管理成本，保证组织的高效运转。
（二）加强和完善一级法人制度
国有银行采取一级法人制下的总分行制的组织结构，具体表现为垂直领导、统一管理、分级经营、统一核算；中央银行对各银行的管理也实行对总行的统一考核。但长期以来，实际上每家银行虽然对外是一个独立法人，而其内部分支机构间普遍存在市场交易行为，实质上是一个多极法人制的集团银行。很多分支机构未经总行批准和授权，擅自投资组建新的法人公司，独立对外签约等。目前，应积极探索在一级法人制下，如何完善银行分支制和加强总行对分支机构的经济核算问题。
四、分离国有银行的商业性业务与政策性业务
从改革开放至20世纪90年代初，我国专业银行企业化改革在银行体制与内部管理方面取得了一定的成绩，但是在专业银行内部经济责任制的形成与完善等方面，仍然存在着重重困难，其中一个很大的障碍就是银行政策性业务与商业性业务之间没有明确的界限。
我国的四大国有专业银行恢复和成立以来，极大地推动了国民经济发展和经济体制改革。但是，信贷资金使用的财政化、长期化问题日益严重，也就是国有专业银行承担了许多本应由财政解决的政策性任务，使得大量的信贷资金为财政性支出所占用，导致信贷资金投放日趋长期化。大量短期资金长期占用，投资体制改革滞后，致使专业银行资金周转放慢，信贷资产质量下降，经营风险加大。在这种体制下，专业银行既要按照现代商业银行的原则经营管理，讲求经营效益，又要服从和执行政府发放政策性贷款的指令，而不计成本和代价，这种两难的选择必然阻碍专业银行改革的进一步深化。因此，专业银行企业化改革的重要内容，甚至是实现企业化改革的前提条件就是实现政策性金融与商业性金融的分离。当时的考虑只是局限于混合政策性业务与经营性业务，会扩大专业银行短期资金长期使用的风险，后来的认识提高到服从财政指令的本身就背离银行企业化经营机制的要求，因为作为经营货币的特殊企业，专业银行追求的只能是利润的最大化，而不是服从财政的指令，即便这种指令不扩大短期资金长期使用的风险。只要专业银行停留在服从财政的指令轨道上，它就不是，也无法成为经营货币的特殊企业。
1984年以来，这个问题一直在研究之中。一开始曾考虑先分离每家银行内部的政策性业务和商业性业务，在条件具备时再组建政策性银行。但这项改革迟迟不能推进，主要原因在于：一是政策性业务与商业性业务不易划分；二是缺乏足够的承担政策性贷款的资金来源。所以政策性贷款的任务仍然不得不压在专业银行身上。进入1990年代以后，我国的货币发行数量增长很快，固定资产投资过度膨胀，农产品收购资金往往不能兑现，打“白条”的现象严重。因为中央银行不能对“白条”现象熟视无睹，专业银行实际上以此被挪用的农产品收购资金为硬缺口，要求和倒逼中央银行增加货币供给。为了使中央银行摆脱困境，也为了保证货币供给计划的不被突破，管理层只能下决心彻底解决专业银行的经营性业务与政策性业务的分离问题。
1993年12月，国务院根据中共中央十四届三中全会通过的《关于建立社会主义市场经济体制若干问题的决定》的精神，决定进一步改革金融体制。其中一项重要内容就是分离国有专业银行的政策性贷款业务，为国有专业银行向商业银行转变创造条件。为此，决定成立三家政策性银行来承担政策性贷款业务。
它们是国家开发银行，主要任务是为基础设施、基础产业和支柱产业的大中型基本建设、技术改造等政策性项目及其配套工程融资；中国农业发展银行，主要任务是筹集农业政策性信贷资金，承担国家规定的农村政策性金融业务，代理财政支农资金的拨付，为农业和农村经济发展服务；中国进出口银行，主要任务是为出口企业提供信贷和金融服务，以促进中国进出口贸易的发展。三家政策性银行成立后，四家专业银行原有的政策性业务划归政策性银行承担，原则上不再承担新的政策性业务。
三家政策性银行的建立，在体制上和机构上为解决长期困扰专业银行的大量政策性问题打下了基础，从金融体制上，保障了专业银行经营的自主性的提高，为把专业银行转变为真正的商业银行奠定了基础，这是我国专业银行企业化的一个重要里程碑。
五、转换我国银行的经营机制
我国现有银行业的经营管理制度还不适应市场经济的发展要求，主要表现在：经营方式粗放、效益观念不强、风险意识淡漠、内部管理松弛、机构设置和人员管理不规范等。要转换我国银行业的经营管理机制，意味着要实现如下的转变。
（一）实现商业银行经营目标的根本转变
作为经营货币商品的企业，商业银行的经营目标是在国家金融法规和产业政策的制约和指导下，确立经营方针和发展战略，选择融资项目和对象，努力提高资金的流动性、安全性和效益性，尽可能保持利润的持续增长。长期以来，我国四大商业银行同时承担着经济效益和社会效益的双重责任，也就是既要争取尽可能多的银行的利润，又要促进社会经济的发展，结果难免为社会经济的发展，而牺牲银行的利润，从而使银行偏离其作为企业、追求利润最大化的目标。
彻底转换我国银行的经营目标，就是绝不为社会经济发展牺牲银行的利益；或者说，必须以增加银行利润的方式促进社会的利益。只要坚定不移地瞄准这个目标，调整和改革银行业的一切方面，包括政策性业务的摆脱，不良贷款的处理以及银企关系的理顺，我国银行才能逐渐实现和推进商业化改革。
（二）完善我国银行资金、成本、利润为主的业务综合管理
随着信贷计划指标控制的中止，我国银行业已经走向了资产负债管理的轨道，但是仍需要进一步建立从严治行、严格规范的商业银行内部约束机制，严格财务管理，实行财务会计向管理会计转变，以防止财务漏洞，真实反映和监督经营成果的实现。
（三）择机完成国有银行的股份制改革
一些股份制商业银行，已经具备现代商业银行的基本框架，在管理体制上和经营机制上具有相对优势，其弱点是资产规模较小。为增强这些银行的资金实力和竞争力，人民银行采取了从政策上支持其分批上市的做法，继深圳发展银行上市后，上海浦东发展银行、民生银行、招商银行、华夏银行等相继成功上市，其他股份制银行陆续上市将成为趋势。银行上市拓宽了其融资渠道，扩大了规模，根据股份制企业的要求，全面实行董事会领导下的行长负责制，规范决策行为，坚持民主决策，增强责任意识，强化决策责任制，强化安全监督，提高信誉，而且有力地支援了工商企业的发展，对我国国民经济的发展起了积极的促进作用。
进入21世纪四大国有独资商业银行也在积极为在境内外成功上市，改造成国家控股的股份制商业银行创造条件。
（四）实现人事用工制度改革
根据银行利润最大化的要求，改革人员选拔制度，建立人才流动的双向选择机制，实现人员考核、录用、培训、转岗、晋升和监管的规范化、制度化、科学化；推进分配制度的改革，实现待遇与责任、业绩、效益挂钩；加强思想政治工作，提高金融队伍素质，防止工作人员以贷谋私，以权谋私。
（五）突破传统业务，强化服务意识
不仅要提高服务质量，改善服务态度，更要将单纯的金融服务转向金融、信息、技术咨询、筹资策划、资信确认、决策联动等一体化的综合服务。拓宽服务和业务范围，并在机构设置、人员配备、会计核算和管理等方面适应新业务的需要。
创造多样化、多功能的信用工具，改善单一的资产结构和存款负债结构，大力开展担保、信用证、信息、咨询和代收、代付、代保管等中间业务，扩大利润来源，分散经营风险。
六、建立银行贷款五级分类制度
商业银行的建立不仅是个制度问题，更是个运行机制问题，资产负债管理，以及贷款五级分类制度的确定等都是实现专业银行向商业银行制度转换的运行机制基础和保障。我国专业银行的不良贷款问题由来已久，清理和化解不良贷款，是实现专业银行商业化改革的关键。而解决专业银行不良贷款的前提则是按国际惯例明确贷款的分类。
截止到1998年以前，我国实行的贷款分类方法基本上是沿袭财政部1988年《金融保险企业财务制度》中的规定，把贷款划分为正常、逾期、呆滞、呆账，后三类合称不良贷款（简称“一逾两呆”），这一统计口径即贷款四级分类制度。
1996年生效的贷款通则，对逾期和呆滞贷款的定义作了调整，例如规定贷款过期一天即为逾期，逾期虽未满两年，但企业停产、项目下马的，也可划分为呆滞。
这种分类方法，简单易行，在当时的企业制度和财务制度下，发挥了重要作用。
但是，随着改革开放的深入，一逾两呆的局限性开始显现。从各方面的反映来看，概括起来主要有以下问题：（1）对信贷资产质量的识别滞后。未到期贷款不一定都正常，尤其是期限长的项目贷款，虽未到期，但是借款人可能已经丧失还款能力。按一逾两呆的标准，只能算作正常。这就不利于及早发现和防范信用风险。（2）宽严不一的标准不利于衡量贷款的真实质量。逾期贷款的标准过严，过期一天就算不良贷款，而国际惯例一般过期20天以上才划分为不良贷款；两呆的定义过宽，逾期两年以上或虽未满两年，要等经营停止、项目下马才划为呆滞，而按国际惯例和审慎的会计准则，这种贷款中至少包含一部分损失。而呆账贷款却未能将其中大部分已形成应该注销而未能注销的历史遗留坏账划分出来。