在和平的年代里，王树声调任总军械部部长，后又任国防部副部长，他总是以普通一兵的身份生活和工作着。
王树声与杨炬结婚后，在战火纷飞的岁月里，生下一子，起名鲁光。1949年仲秋，王树声终于在武昌见到了带着从未谋面的儿子的杨炬。夫妻团圆，父子相见，在杨炬提议下，一家3口在武昌合影留念。后来，杨炬又生下二儿子楚还、三儿子建初、女儿季迟，为王家增添了许多快乐。
1955年9月27日，是王树声终生难忘的日子。这一天，他与那些为新中国的建立而立下赫赫战功的元勋们一道，接受了国家的授衔。王树声被授予陆军大将衔和八一、独立自由、解放一级勋章。
1953年，王树声被任命为中央军委总军械部部长，全家从武汉搬到北京。总军械部是个新设的单位，人员来自五湖四海，由于人员关系不熟，工作初创维艰。总军械部群众中间有矛盾，领导班子也不够团结，都觉得自己一套是正确的，相互不买账。王树声走马上任，就找了几个副部长谈，他发现几个副部长都很有才干，也都有缺点，而且扯皮也较多。王树声看到了这个症结后，首先从自身严格要求，虚心学习别人的长处，坚决克服自身的缺点。每一次开会检查，他首先都作自我批评。解决问题的时候，他发扬民主作风，把大家召集在一起进行讨论，献计献策，然后集思广益，对正确的意见予以采纳。对不适宜的建议，也不是简单地排除，而是耐心分析指出其中不足之处。就是这样，王树声作为军械部主要负责人，在很短时间内，团结了各级领导和广大职工，使军械工业有了很大发展。
新中国的军械工业，是个破烂摊子，它主要从蒋介石国民党的手中接过来。蒋介石逃到台湾之前，能破坏的又把它加以破坏，武器装备上绝大部分又缴自日本侵略者以及蒋介石的“奉敬”，种类真是五花八门。当然，这个时期，苏联也曾给予了我国军械工业一定的帮助，但在如何学习苏联上，认识却并不一致。一部分人认为苏联专家水平高，苏联专家的建议都是合理的。另一部分人认为苏联专家固然水平高，但中国有自己的实际情况，专家也有跌眼镜的时候，主张实事求是。
在王树声到总军械部之前，前一种人的思想占了上风。当时流行一句口头禅说：“有理无理三板子。”意思是在学习苏联对待苏联专家建议诸事上，一旦与苏联相悖，不管你有理还是没理，都得挨上三大板。王树声来了之后，主张从中国的实际情况出发，开展自己的工作，不能“打板子”。
后来，王树声发现苏联专家所提供的军械设计图纸，相当一部分颇为陈旧，不少甚至还是三十年代的水平，他们自己先进的东西却舍不得拿出来。王树声把这些情况向上面反映，在我方力争下，苏方迫不得已供应了我们一些较先进的样品和资料。
但是当这些样品和资料到来后，又出现了一个问题，就是原料依赖进口，代价十分昂贵。因此王树召集干部开会，想方设法解决这个问题。经过多方讨论，要生产原材料，不再从国外进口，首先必须要足够的科技人才，会议上有人提出利用国民党留下的专家，王树声深有同感。
在此之后，他审慎地进行调查研究，发现不少留用的国民党科技人员，其实都具有爱国主义思想和正义感。在抗美援朝期间，不少留用的科技人员，参加了国民党丢失军械弹药的检查、装箱，基本上都能尽职尽责。
于是，在王树声支持下，成立了新中国第一个军械研究所。军械研究所的科技人员以总军械部的科技人员为主，从外抽调了一批科技人员，又从留用科技人员中择优录用了一部分。
军械研究所草创之初，设备简陋，人员还不能满足需求，可由于上下同心协力、成绩斐然，或改进，或创新，对我国军械工业，作出了可喜的贡献。如国产与进口炮管的对口试验，就是一个典型。
当时的进口炮管是一种新式的武器，每分钟可打200发，威力很大。但缺点很多，打的时间不长，炮管就滚烫发红，不能再射击了，只有重换。因而，每门炮需要三个备用管。我军大量装备这种炮，需要炮管的数量是相当可观的，而制造炮管的原料全依赖进口，费用相当高。
军械研究所的科技人员通过不断摸索，最后研究出了制造这种炮管的原材料。当把样品呈给苏联专家看时，苏联专家根本不相信中国有这个能力。
分工经管此事的干部提出一个办法，就是拿国产的炮管与外国的炮管进行一场大“比武”，以分高低。
王树声同意这个建议，上报彭德怀批准。
高射炮靶场。在蔚蓝色的天空下，架起了两架大炮，两架大炮，两架大炮上两种炮管。彭德怀、王树声以及苏联专家等都在实地观看。
一声令下，大炮“嗵、嗵、嗵”发出了雷鸣。打到一万发时，进口的炮管不行了，中间红了，而国产的炮管仍然斗志昂扬，一直打到两万发，中间才红，经冷却之后，接着又能射击。
这一场国产与进口炮管大“比武”，终于以国产的胜利而告结束。全场一片欢腾。
彭德怀为王树声以及他的下属们，以国产材料试制炮管终于成功，将给国家节省大量外汇，又给我军提供更多的优质炮管而由衷地高兴！
不过，总军械部，主要负责全军武器装备供应，而军械工业的生产，则由国务院直属。生产部门和销售部门脱离，价格一变动，必然造成矛盾。
生产部门最初与总军械部配合还比较默契，后来出现了一些矛盾。
彭德怀提出一个办法，就是军械使用部门向生产军械部门派驻军代表。
这个办法好是好，但在实际上执行起来，并非一帆风顺。军代表由军械使用部门委派，他的职责是验收军械产品。验收过程中，自然而然要把握质量关，不讲质量的产品自然不过关。因此，生产军械的部门就抱怨军代表“偏心”；如果军代表不负责任地滥收，军械部门又不认这个账，重者，可能要受纪律处分。
因此，军代表是“老鼠掉到风箱里——两头受气”，这个工作非常难做。可舍弃军代表制度，又找不到更好的解决办法。
所以，当军代表制度实行后，有很多军代表来向王树声诉苦。王树声都仔细地向他们做思想工作，使他们心悦诚服。
王树声首先认为，军代表既不单纯站在生产者一方，也不单纯站在消费一方。他应该既体现生产者利益，体现党的利益。生产和消费是一对矛盾，它们相互离不开。没有消费，生产无从进行；没生产，消费也无从谈起。但二者又有隔阂。军代表的任务就是排忧解难。作为中间调解人，消除生产军械部门和消费军械部门的隔阂。正因为如此，军代表的任务异常艰巨但也无尚光荣。军代表做得好，生产部门和消费部门都受益，做得不好，那就成为众矢之的。
怎样才能做好？这是军代表最为关心的问题。王树声告诫大家，做好军代表，要在工作中将原则性和灵活性紧密结合起来，要深入联系群众。王树声说，生产军械部门和消费军械部门的矛盾突出表现在质量和价格上。消费军械部门要求质量好，价格合理的军械，而现在的军械生产部门就是在这个方面达不到要求。所以，军代表现在任务就是要搞清楚生产部门质量上不去、价格不合理的原因，然后进行改进，使其质量和价格符合要求。
军代表们一听，茅塞顿开，受益非浅。
经过调查，军代表发现生产军械部门价格之所以偏高，是因为成本高，而成本中有一部分是不必要的浪费。
按往常惯例，新生产的枪炮，都必须进行“高膛压”、“精密度”等多项试验，每支枪、每门炮要进行试验，打了不少弹药。如果总的加在一起，光试验耗费的弹药就成百上千万发。这样，必然增加了成本，价格降不下来，厂方的负担也不轻。
军代表认为经过大批量生产，工人的技术已相当精练；从过去的试验来看，绝大多数产品也符合要求。因此，可以改支支枪炮试验为抽查三分之一试验，而且还减少了某些不必要的试验项目。
于是军代表的办法得以广泛推广，生产厂方减轻了不少的物力、人力和财力，成本自然降低，价格也变得合理起来。
再如，往日弹药箱的制作，规定很死板：凡有结疤的或厚落不匀的木料，一律不得使用。这样一来，就有大量的材料被选掉了。军代表看了这些被选掉的木料，觉得可惜，忽发奇想让专家们化验一下，看到底能不能用。化验的结果，证明某些结疤并无妨碍，还有的专家提出“补疤”的建议。于是军械部有关部门遂批准，视不同情况，选择结疤木料制作弹药箱的新规定。于是，厂方一下提高了弹药箱木材用料率百分之一、二十，又降低了一笔可观的成本。
1965年8月，王树声夫妇与徐向前夫妇合影。左起：王树声、杨炬、黄杰、徐向前。除此之外，军代表还发现军械生产部门价格高的原因，部分由于在成本核算的方法上有毛病造成的。如重炮上配的大板斧，过去定价七、八元，买方一直认为太贵。结果，军代表请来了权威的成本会计，协助生产厂家进行精细核算，找出了漏洞，厂方马上作了改正，降低了大板斧的售价，消费者也就满意了。
总之，驻厂军代表们，在王树声为首的总军械部的领导、关怀和支持下，通过他们辛勤地、耐心地做群众工作，沟通了产、销间的联系，消除了误解，为我军装备现代化作了大量工作。
当然，改进、翻新武器需要科技，降低生产成本需要科技，储存、保养武器也需要科技。王树声不断扩充军械研究所，而军械研究所也不断出成果，从而相得益彰。