一、完善我国银行间债券短期市场的制度和理论基础建设
中国银行间债券市场发展至今，最基础的几部规则已经基本形成，分别是《全国银行间债券市场债券交易管理办法》、《银行间债券交易规则》、《银行间债券交易结算规则》和《全国银行间债券市场债券回购主协议》等。但是随着市场规模和范围的扩大，这种缺乏全局性和前瞻性的做法显然已经严重滞后，当前需要建立根本性的、综合性的上位规范来统领和指导各具体规范。具体来说应包括以下措施：
1.制订和完善相关的法律法规，保证银行间债券市场的规范、健康和可持续发展。鉴于目前国家法律、条例对该市场的支持较为滞后，可以考虑把银行间债市纳入《中华人民共和国证券法》的法律规范范畴，在证券法中明确这一债券场外市场的合法地位，加强政府强制性法规对场外债券交易的监管力度，尤其在信息披露、交易透明度等方面。同时，还要考虑制定一个《债券场外市场管理法》，在不违反证券法的前提下，从较高层面为市场搭建一个完整的框架，同时就目前相关法规进行梳理，对一些定义不清、规则模糊的条款进行调整和编改。
2.建立一套完整的市场准入退出机制。准入退出机制包括：一是为银行间债券市场制定明确的准入标准，即规定各类不同企业必须达到一个什么样的最低要求才能够申请进入，如规定成员应建立针对债券交易的内部管理制度，配备相应数目和素质的业务人员等。二是对于市场行为不规范、内部控制管理制度出现漏洞而不及时修订以致发生严重违规操作或交易失误、因业务人员主观故意造成交易对手损失的市场成员采取暂停交易资格限期整改，直至取消银行间债券市场成员资格。
3.完善信用评价机制。首先要大力培育针对于该市场的信用评级机构。在引进国际权威评级机构的竞争的同时，允许中外资中介服务机构合作或重组，逐步培养出一批具有国际声誉的中国自己的大型评级公司。其次要建立债权人监控下的信用评级制度。改变目前由债券发行主体自行选择信用评级机构的现状，由投资者为发行主体选定评级机构，以降低发行主体与信用评级机构“串谋”的可能性，同时要按照独立、公正、中介、监督的原则建立评级机构竞争淘汰的机制，以保证评级的客观公正。再次，要落实信用评级机构的责任。各家资信评级机构应向监管部门提交所评级公司资信级别的依据报告，落实信用评级机构的责任追究制。
二、建立高效统一的市场管理机构
市场管理的优化首先在于具备一个信息掌握充分、措施齐全、运转高效的管理机构。银行间债券市场目前的多头管理模式已逐渐不适应市场的发展，因此可以考虑对目前的管理体系进行重建。
1.对银行间债券市场前后台交易系统进行升级改造，逐渐消除两套系统之间的差异性，尤其利用目前券款对付（DVP，Delivery Versus Payment，即一手交钱，一手交货）清算方式已开通的契机，使前后台成交通知单的形成同步，最终使两套系统统一起来。
2.在交易系统统一的基础上，对现有的两个中介管理机构业务进行重组，将同业拆借中心所管辖的有关银行间债券市场的业务向中央结算公司转移，在中央结算公司内部新设一个机构负责对询价交易过程和成交进行监控，最终对市场的日常管理统一到一个中介机构身上。
3.明确界定中国人民银行与银监会对银行间债券市场的有关管理职能，避免交叉管理。可以考虑将我国证监会定位为债券市场的政府监管与执行主体，中国人民银行与财政部仅负责国债政策与国债发行。由证监会下设专门债券市场监管部门，改变发改委、财政部、中国人民银行与证监会等多家监管主体的权力分割局面，减少因监管职能重叠与摩擦导致监管效率的降低。
4.基于债券场外交易的特点，可借鉴美国和俄罗斯的经验，成立“中国债券交易商协会”，作为一个非盈利组织和行业自律组织，实行会员制，协助主管机关管理债券市场，完善银行间债券市场微观结构，提高市场绩效。
三、进一步发展和完善我国银行间债券市场的参与主体
1.鼓励更多的资信优良的机构在银行间债券市场发行债券。在债券发行制度完善、风险防范体系健全的前提下，应当允许更多资信优良的金融机构和企业法人在银行间债券市场发行次级金融债券和企业债券，增加债券的发行主体，吸引更多的机构通过发行债券融资，改变管制过度导致信用风险缺失和国家信用主导市场的局面。具体而言，要大力发展公司债、次级债券、资产证券化债券等非公部门债券，同时还要从产品本身的特点出发，大力推广浮动债券、选择权金融债券、本息拆离金融债券等。
2.建立完善的做市商制度，增进银行间债券市场的流动性。要在银行间债券市场中，鼓励具备一定实力和信誉的债券经营法人作为特许交易商，不断向公众投资者报出某些特定债券的买卖价格、双向报价并在该价位上接受公众投资者的买卖要求，以其自有资金和债券与投资者进行交易。
在这一过程中，做市商首先应当用自有资金购买一定的目标债券，并承诺维持这种债券的不中断交易，然后根据其在市场交易中的信息优势，报出债券买卖价格以供投资者买卖，并通过不断买卖来维持市场的流动性，其本身则通过买卖的差价来获得利润（从国外经验来看，在场外市场交易方式中，做市商扮演的就是主要角色，其主要作用是保证市场在交易时间内有连续的双边报价，以满足市场流动性的需要。做市商制度也因此得名，它最早起源于英国股票批发商的柜台市场，发展于美国纳斯达克（NASDAQ）股票市场的交易方式，其具有增强市场流动性、稳定证券价格、提高投资者交易效率的优点，并且有利于分散市场风险）。
2000年，在中国人民银行推动下，全国银行间拆借中心开发了双边报价系统并投入运营，中国农业银行、中国银行、北京市商行、南京市商行等金融机构开始对一些债券交易进行双边报价的尝试。2001年上半年，中国人民银行批准中国工商银行、中国农业银行、中国银行、中国建设银行、光大银行、北京商行、南京商行、武汉商行、烟台住房储蓄银行9家商业银行成为银行间债券市场首批双边报价商，享受规定的权利，承担规定的义务，以维持市场流动性。2009年，双边报价商队伍又扩大到中国银行、中国建设银行、中国农业银行等20家金融机构。
四、积极有序地拓展我国银行间债券市场交易工具
金融创新是金融市场发展最主要的推动力，作为金融市场重要子市场的银行间债券市场，其发展同样离不开金融创新的推动。如何通过金融创新培育更多的金融产品，提高市场交易效率和流动性，将是未来银行间债券市场发展的重要方面。银行间债券市场金融创新应集中在以下几方面：
1.增加短期债券品种。短期债券充足有利于活跃现券交易，为中央银行公开市场操作提供更多的流动性手段。
2.引入债券利率衍生工具，适时开办债券远期交易和国债期货交易。债券衍生工具对于规避市场风险、发现价格以及提高流动性都具有非常重要的意义。债券远期交易可以有效地衔接债券发行和交易过程，充分发挥价格发现功能，为市场参与者提供良好的避险工具，有助于市场流动性和有效性的提高。国债期货交易除了与远期交易同样具有的价格发现功能之外，更是为市场成员提供了良好的投机工具，适合市场成员利用其进行对冲交易。同时国债期货交易的推出，可以促进国债流通市场的活跃，进而有利于国债一级市场的发展。
3.借鉴北美和欧洲部分国家的经验，引进物价指数债券等新型金融工具。物价指数债券作为债券品种和金融市场工具可以消除价格中的通货膨胀风险贴水，进而降低通胀风险，帮助宏观经济管理当局甚至投资人了解市场对通货膨胀的预期，有助于建立按照实际价值交易的资产市场，降低筹资成本等。
五、逐步建立全国统一的债券市场
债券市场的分割不利于我国金融体系的发展，作为事实上跨越了货币市场与资本市场两个市场的我国银行间债券市场，随着其深入发展，越来越要求一个统一债券市场的形成。要建立统一的债券市场，关键是要实现债券在两个市场的连通和自由流动。目前我国银行间债券市场是债券市场的主体部分，大部分国债和所有的政策性金融债、次级金融债都在这个市场发行和流通，而资本市场（证券交易所市场）则只有少部分国债和企业债券的发行和流通，债券市场的分割导致了银行间债券市场缺乏流动性，而交易所市场则缺乏债券品种。要消除债券市场分割给金融体系发展带来的不利影响，需要做到以下几点：
1.统一两个市场的债券托管制度。银行间债券市场的债券全部集中托管于中央结算公司，交易所市场的债券则托管于交易所的债券托管系统，两个市场目前只能单向转托管，即只允许交易所的债券托管到银行间债券市场，反向则不行。因此，可以首先改变单向托管的制度安排，实现双向转托管自由进行，待时机成熟后将债券全部托管于中央结算公司，实现债券的统一托管。
2.统一两个市场的债券交易方式。银行间债券市场的询价式交易和交易所市场的撮合式交易各有优点，可以考虑在建立健全做市商制度的基础上逐步统一两个市场的交易方式，即推出一批信誉良、实力强的做市商，然后在两个市场统一实行询价式交易，这样既有利于提高市场流动性，又有利于市场成员在交易对手的选择上具有一定的主动权，可以更好地防范风险。
3.建立统一的市场监管体制。在明确市场监管部门与主体利益彻底脱离，以保证债券交易公平、公正的原则下，明确界定各管理机构的监管职能。统一的债券市场应由证监会和人民银行共同实施监管。证监会负责制定统一的交易规则、交易办法，对债券托管结算制度作出规定；中国人民银行负责对金融机构的投资业务进行监管，同时在统一的债券交易规则框架下，制定公开市场业务规则，并组织好公开市场操作。
随着两个市场参与主体的扩大和相互渗透，债券品种的丰富和交易工具的创新，可以逐渐实现银行间债券市场与交易所市场投资者和投资工具的同一性，从而促进两个市场的融合，形成一个统一的债券市场。