朱元璋还改革了监察机构。元朝中央的监察机构叫御史台，洪武十五年（1382），朱元璋将其改为都察院，其职能是做天子的耳目，纠劾百官的错误。都察院的长官叫都御史，下面设置了十三道监察御史，以一个布政司为一道，负责监察检举各级官吏的不法行为。监察御史只是七品官，却赋予了他很大的权力，朱元璋就是用这种以小制大、以内制外的方法来钳制他的巨僚。在中央还设立了大理寺，其长官是大理寺卿。这个机构负责对刑部、都察院、五军断事官审理的案件进行复审，大理寺与刑部、都察院合称“三法司”，遇大案须三法司会审。形式上看似乎对刑狱的处理更为审慎，其实这是将司法权力也一分为三，使其互相牵制，暴露了朱元璋对任何事都不允许“专于一司”，处处提防大权旁落的心理。
朱元璋还特别重视军队的管理和建设，创设了卫所制度。每卫大约五千六百人，长官称指挥使，管辖五个千户所。每个千户所一千一百二十人，长官为千户。千户所下又分为十个百户所，一个百户所一百一十二人，长官为百户。百户所下设两个总旗，每个总旗下又分设五个小旗，每个小旗十个人。每个军士另立户籍，称军户，身份世袭。军户由国家分给土地，实行屯田自养。明初，全国的卫所、都指挥使司都由大都督府管，朱元璋任命他的侄儿朱文正为都督。洪武十三年（1380），废除丞相制的同时也废除了大都督府，改设中、左、右、前、后五军都督府，将兵权一分为五。但朱元璋仍不放心，又规定五军都督只有统兵权而无调兵权；兵部有任免、训练权，但又不得统兵。五军都督和兵部互相牵制，遇到战争，由皇帝作出决定，兵部颁发调兵命令，都督府的长官才能奉命作为将军率兵出征。而战事一结束，就要归还将印，士兵也要各回卫所。这项制度，使军队始终掌握在皇帝手中，从军事上加强了皇权。
明初，朱元璋还实行了分封制，将二十四个儿子和1个从孙分封到全国各地，以巩固朱明王朝的统治。由于北元回归大漠后保有相当强的军事力量，对明朝北部形成极大威胁，所以朱元璋分布在北方边防线上的塞王兵力尤为雄厚。到洪武后期，这些塞王已完全掌握边防军事指挥权，实力雄厚，他的第四个儿子燕王朱棣后来就是因此才夺了建文帝的皇位。
朱元璋一系列政策和制度的改革影响深远，具有一定的进步作用。它使行政、监察、军事三方面的统治机构相互独立，互不统属，每个机构下的权力又一分再分，这就使得各项权力机构之间产生很大的相互牵制力，而真正的大权则被独揽在皇帝一人手中，使中央集权君主专制发展到空前程度。
大明律法
明太祖朱元璋这位中国历史上出身最卑贱的皇帝，却以雄才伟略，审时度势，建立了高度集权的大明王朝。而为了保证统治秩序的稳定，他又是历代皇帝中少有的重视国家法律的制定和实施的统治者，他制订了象纹三彩砖《明律》和《大诰》，对法律的思考和见解，以及推行普法教育和宣传的手段，可以说是独步古今。
元末的社会动荡，使国家秩序遭到严重破坏，为了尽快恢复统治秩序，朱元璋认为就需要依法治国。朱元璋在吴元年（1367）十月就命左丞相李善长等草创律令。李善长等建议以集大成的唐律为蓝本来制定明律，到吴元年十二月，完成了律书的编写，其中包括律285条，令145条，这便是最早拟定颁行的《大明律》。后来，朱元璋还是觉得已定的律令不够完善，在实践和总结中又不断对其进行修订。洪武六年（1373）夏天，刊行了《律令宪纲》，这年冬天又命刑部尚书重修《大明律》，到洪武七年（1374）基本成书，篇目与唐律相同，共六百零六条，三十卷，颁行天下。从吴元年到洪武六年，先后历经七年的反复修改，而以后又有所增损，洪武二十二年（1389）刑部又奏请修订，直到洪武三十年（1397）才正式颁布。经过二十多年修订完善的《大明律》有：律文三十卷，四百六十条，按照朝廷六部分吏、户、礼、兵、刑、工六律，有五刑、十恶、八议等各个条款。
《明律》比唐律在条文上言简意赅，但严酷程度却有过之而无不及。比如，犯了“谋反”、“谋大逆”之罪，在行刑上，《唐律》规定为首犯处以斩刑，其父及年在十六岁以上的儿子都被处以绞刑，但其余亲属不处死；而《明律》规定，不分“主犯”、“从犯”一律凌迟处死，他们的祖、父、子、孙、兄弟，甚至同居之人，不管是否患有疾病，年龄在十六岁以上的都处以斩刑。不区别情节轻重，而且株连范围之广，实在骇人听闻。
前朝的律法自古以来都是重在治民而不治吏，但是曾经切身的经历，使朱元璋深知官吏的贪婪是造成百姓疾苦的重要原因，所以对职官犯罪也制定了严峻的法令，在《明律》中专门设置了《受赃》一篇共计11条，同时，还专设《课程》篇19条，从重论处官吏犯罪。如规定监守偷盗仓库钱粮四十两就判斩刑；官员一律由朝廷任用，大臣不得私自干涉，否则就是死罪处斩。《明律》还规定严禁官吏之间互相标榜推荐，如有人向上荐举某位大臣，就以“奸党”论处：“犯人处斩，妻子为奴，财产入官”。这使得任何人都不能干扰皇帝选用官员的意志，而所有的人都要按照皇帝的意志行事，这就从国家根本大法上加强了君权。
《明律》的制定，在中国古代立法中已近完善。但是，要所有的臣民都遵循这一法典的难度并不亚于其制定的难度。因为，在当时的条件下，识字的人很少，要让人人学习所颁行的法典是件很困难的事情。但朱元璋这位布衣天子就是能想出他独到的办法。早在吴元年拟定《明律》之初，朱元璋就命大理卿周桢等人将刚刚拟定的律令中有关民众生活的部分用口语写成《律令直解》，详细解释律令的含义，并发布到各个郡县。洪武十八年（1385），颁行《大诰》，接着颁行《续编》、《三编》和《大诰武臣》，而这些都是汇编的生动的案例。朱元璋亲手编制的《大诰》属于惩治官吏的特别刑事法规，一共236条，都是朱元璋亲自处理过的案件。它以实际的案例来说明某种过错是触犯了哪条律法，进而会受到怎样的处罚。这种切身说法是很容易让老百姓听懂、记牢，进而遵守的。让老百姓“知”什么问题由此解决，之后，朱元璋又找到了解决“如何知”的办法。他下令全国的府、州、县学堂中的教师以《大诰》为教材，每天教学生诵读，熟记，让国人从小就学法懂法，而且每三年老师要带领学生到礼部背诵，视背诵的多少给予奖赏或处罚。后来，朱元璋又下诏将《大诰》列为科举考试的内容，凡在乡民集会上都要宣讲《大诰》。如果这样还不能达到臣民从小遵守的目的，那么朱元璋还有一招“治乱世，用重典”的强制措施。他要求无论官、民，家家都要有一本《大诰》，并规定家有《大诰》者犯“罪”时可以减罪一等，否则就要加一等判刑。本来砍头的罪，减罪一等就改为流放了，总是能捡回一条性命。在《明律》中有着那么多酷刑，减一等刑罚总是好事，所以人们也就会记得家家保存一册《大诰》了。朱元璋利用种种方法推行律法，其目的是想通过律法的宣传和教育，使广大臣民服服帖帖地在其统治下生活，以维持他作为君主绝对的权威。
《明律》是朱元璋一生政治生涯的经验总结，是他费尽心力，历经二十年，字斟句酌的“不刊之典”。朱元璋把它视为维护朱明王朝长治久安的法宝，在他的《祖训》中嘱咐子孙们必须遵行这部法典，一字不可更改，使《明律》成为终明之世的“百代之准绳”。
鱼鳞图册
在中国历史上，朱元璋是位毁誉参半的皇帝。不过，在治国期间，他实行休养生息的经济政策，采取奖励垦荒，实行民屯、军屯、商屯等屯田制度，兴修水利，在全国推广桑、麻、棉等经济作物的种植，这一系列措施都有利于恢复和发展农业生产。特别是他还做了一件被史学家们誉为“美政”的大事：清丈全国田地，编制土地赋役管理档案——鱼鳞图册，从而成功地使明朝社会经济得到了较快的恢复和发展。
作为一位贫民出身的皇帝，朱元璋极其清楚农民没有土地耕种的痛苦。元末之际，天下大乱，生灵涂炭，百姓们纷纷揭竿而起，无非就是为了实现“耕者有其田”。当上皇帝后不久，朱元璋发现许多富民隐瞒田产、逃避徭役，因而开始了大刀阔斧的土地赋役制度改革。他在继承宋元相关制度的基础上，启动了全国范围的黄册和鱼鳞图册的编造措施。
明孝陵从建国之初，明太祖朱元璋就注意收集元朝的“户卷”，即户口登记资料。洪武三年（1370），命户部将全国所有的户籍编造成册，推行户帖制度。明政府规定在每家的户籍册上都要详细记录这家每一个人的姓名、年龄、籍贯以及成年人丁的情况，用字号编排顺序，并盖上官府的印信。此外，对于家中的男女情况、田地、居住房屋，甚至拥有牲畜的情况也都要附在登记册中。户口登记情况分成“籍”和“帖”两部分，“籍”保存在户部，“帖”则由百姓在自己家中保存，每年国家派专人对其中登记的情况进行核对和修订，以便政府对全国的人口、土地等情况有最新的全面的掌握。可见，这是一次全国范围的、大规模的人口普查，对户口登记十分详尽，而且采取籍、帖分开的方式，每年都要重新统计上报。经过这样大规模登记和核查而编制的户帖，为明朝政府征收徭役赋税提供了相当可靠的依据。洪武十四年（1381），在户帖制度的基础上建立了更为详密的黄册制度。黄册就是户口总册，它以户为单位，详细登载了各户的乡贯、丁口、姓名、年龄、田宅、资产，并按照职业规定人户的籍属，主要分为民、军、匠三大类。黄册十年编造一次，共造一式四份，一份送交户部，其余由布政司、府、县各存一份。因为上交户部的那份的封面要用黄纸裱糊，所以被称为“黄册”，它是政府征收赋税的依据，因此又叫“赋役黄册”。黄册的编造奠定了明朝的户籍制度，它比以往朝代对户口的控制更为严密。“里甲制度”和“黄册”的制定同时进行，明政府在编制黄册时规定：以一百一十户为一里。在一里之中推选家中人口多、纳粮最多的十户为长，其余的一百户编为十甲，每甲中包括十人，把每里编为一册。这样就把一切人、户都编制到里甲之中，而里甲中的人、户又被登记到黄册中，根据黄册记载的人户情况，通过里甲实行赋役。因此，里甲是明代最基层的组织单位，里甲制度为黄册制度提供了组织上的保证。
黄册是明朝的户口登记册，同时黄册上也记录了每户拥有的土地数量。但是因为黄册上登记的只是各家各户所占土地的大致情况，不够确切，所以仍有人设法隐瞒所占土地。特别像两浙的富民，他们为了逃避徭役币口赋税，往往把自家的田产假托在亲戚、邻居的名下，这种做法被叫做“铁脚诡寄”。久而久之，延续成一种风气，导致乡里欺瞒州县，州县欺瞒府，以下欺上，造成很多的弊端。于是，配合黄册制度，明朝政府又开始了“鱼鳞图册”，即一份详尽的土地登记册的编制。据最新史学研究考证，明代“鱼鳞图册”的编造早在龙凤年间就开始了。明王朝建立后，朱元璋又多次派人在全国范围内丈量、核查田地，并于洪武二十年（1387）全面完成了鱼鳞图册的编造工作。这部图册的具体编制办法是：以征收税粮—万石的地域面积作为一个区，将一县分为若干区，每区又按土地的自然形态分为若干地段，由朝廷派人或由地方官主持进行丈量，然后分区分段绘画出区内的田地形状，并以田地为主，编排字号，记载田地的亩数、土质优劣、方圆四至、上中下等税则以及田主的姓名和土地买卖情况等。因各州、县、郡、里将所辖境内所绘制的田地图编在一起，栉比排列，形状好像鱼鳞一样层层相联，所以被称为“鱼鳞图册”。它和黄册并称“经纬册”，在人口、土地等情况上互为佐证。明代的鱼鳞图册，是相当完备的土地登记册。它的编制，使赋役的征收具备了确实根据，使政府税收有了保证，明初的耕地面积和税收数额都有了很大增长。
朱元璋通过清丈土地，编制赋役黄册、鱼鳞图册，建立里甲制度，将全国的土地和人口都编管起来，这就使朝廷基本上掌握了全国的户口和耕地情况，把农民牢固地束缚在土地上，从而保障了国家徭役和赋税的实现。但从另一方面，这些制度也让饱尝战乱之苦的百姓有了可以附着的土地，同时对豪族地主隐瞒土地，逃避赋役起到了一定的限制作用。同时，明朝政府还规定工匠轮班制，放松了对手工业者的人身控制，这对刺激农民的生产积极性，恢复和发展农业和手工业生产都起到了促进作用。
皇帝恶犬
朱元璋整顿吏治，严惩贪官，甚至不惜戴上大肆屠杀之名。但猜忌多疑的性格使他对自己的巨僚重臣总是放心不下，唯恐大臣对他不忠，时时刻刻充满戒心，要求大臣对他绝对地听从、忠心不贰，即使出朝之后也要对他恭恭敬敬。于是便采取了公开的特务恐怖统治。
起初，朱元璋只是派一些检校、佥事等官吏去刺探巨僚们私下的言行。当时最著名的是高见贤、夏煜、杨宪和凌说四人。他们专门负责侦察在京官员们私下里不满、不忠的言行，禀报皇帝。朱元璋把这几个人比喻为恶犬，只维护自己的权威，让众人惧怕。起初，这些密探只是四出巡视，没有一个机构，不能直接逮捕判刑。到洪武十五年（1382），朱元璋特设了锦衣卫，作为其行使权力的机构。
锦衣卫的“卫”就是指“皇帝亲军”。锦衣卫是皇帝的私人卫队二十二卫之一，它一方面继续承担侍卫的责任，每逢皇帝举行朝会、巡幸、祭祀等重大活动时，锦衣卫就身穿飞鱼服，腰佩绣春刀，侍从左右。另一方面，正因为是皇帝贴身卫队，护驾责任重大，所以在皇帝出行之前他们就必须有所防备，于是便时时四出，做秘密调查的工作。锦衣卫被皇帝赋予了侦察京师官民和抓捕等特务职能后，它已不等同于一般的保卫部队，从外表看锦衣卫最大的特征就是身穿金黄色的飞鱼服，这种官服采用了象征帝王尊严的黄色，作为他们区别于其他卫队的特殊标记，意思就是权力高高在上。
锦衣卫中，最大的官职是三品，叫指挥使，其他辅设的官职还有同知、佥事、镇抚以及千户等，在其下还有将军、力士与校尉，并设经历司和镇抚司两个机构。经历司主管文书的出入，而镇抚司是锦衣卫的核心，负责受理狱状、诉讼。在朱棣成为皇帝时，又增设北镇抚司，成为南北司，北司的任务是“专理诏狱”。另外，锦衣卫的职官死后，他“魁梧才勇”的亲儿子或是亲兄弟可以接替他的职位，没有儿子或兄弟的就会在普通民户中选择符合条件的人作为替代，一般的小校则挑选民间丁壮担任，这就保证了锦衣卫中不会出现职位空缺的情况。