滁州保卫战之后，朱元璋的军事才能进一步让人刮目，接着智取和州（今安徽和县）。郭子兴虽有疑忌，但心底里又不能不佩服这个能征善战的年轻人，于是做了个顺水人情，授予朱元璋和州总兵的头衔。后来郭子兴也不得不移师和州，结果自以为是地在和州弄险，气得病倒没几天便死在这里。兵权交给了他的两个儿子，这俩兄弟除了猜疑心重，别无其他能耐，这支队伍的实际指挥者仍是朱元璋。
“太祖威名日盛，诸将来归者，善长察其材，言之太祖。”李善长完美地扮演着自己的角色，朱元璋的名气越来越大，前来投奔他的人也越来越多，而考察归附者优劣则成了李善长当仁不让的差事。他非常用心地替朱元璋考察了解每一个人，根据才能大小，精心为其安排充实军事管理团队。同时，李善长发挥他擅长处理人际关系的协调能力，代表朱元璋向各位追随者致欢迎之意，及时调解消除将领间出现的矛盾分歧，对维护整个队伍的团结，发挥着不可替代的作用。
早年的功夫没有白费，由于通晓文史，熟悉法规典章，处理起各种繁琐的事务、裁决各种纠纷，李善长表现得得心应手；朱元璋所要发布的各种文告、律令，人员任免的命令文书，全部出自李善长之手。每在攻城之战前夕，李善长预先起草好约束士卒的军中条规和安民告示，随战役的推进及时张贴在大街小巷。而一般情况下，朱元璋带兵出征，都由李善长留守后方，“将吏帖服，居民安堵，转调兵饷无乏。”留守的将士官吏服服帖帖，老百姓们安居稳定，同时前线需要的粮饷，李善长筹集调拨及时充足，保障供给。——李善长要朱元璋效法刘邦，他自然是选择萧何作为自己的榜样。
这期间，李善长还不忘乘机给朱元璋露了另外一手。朱元璋率军去袭击鸡笼山寨，只留少量兵力协助李善长驻守和州。临出发前朱元璋有些担心，再三叮嘱李善长：我大军离开后，万一有异军来犯，你切记只需坚守，千万不要贸然出击。当时元朝王子秃坚、“民兵”元帅陈也先等屯兵在和州附近的新塘、青山一带，得知朱元璋大军出动去了鸡笼山，和州城中空虚，立即调集人马前来偷袭。李善长闻讯，面对手中有限的守备力量与来势汹汹的强大敌人，他临危不惧，镇定自若地巧用计谋、暗设埋伏，结果大败敌军，和州城毫发无损。朱元璋在前线得到捷报，大为赞叹，情不自禁地对身边的将士夸奖李善长道：“不意缝掖乃办执戈！”真没想到，李先生一介儒生竟然还会指挥打仗！
至正十六年（公元1356年）三月，朱元璋向集庆路（南京）发起总攻，占领了集庆路后，李善长及时张贴安民告示，接管户籍档案，迅速恢复社会秩序。朱元璋改集庆路为应天府，军心大振，但与此同时将士们的骄纵之气也随之渐渐滋生。
在决定进攻镇江前夕，朱元璋很为军纪问题头疼，军纪散漫直接危害朱家军的战斗力，更为严重的是会大大损害他们在老百姓心目中的形象，对争取民心十分不利。李善长这时候的小聪明派上了用场，他给朱元璋出了个主意，巧妙地解决了这个难题。这一天，朱元璋把全军将士集合起来训话，首先反复强调一支队伍纪律的重要性，重申了历次颁布的军令，然后列举了此前一些首领和军卒滥杀无辜、抢掠民财的恶劣行为，突然脸面紧绷、语气加重，喝令他刚才提到名字的人全部出列，当即命拉出去统统杀头。众见主公动了真格的，顿时肃然，被交出队伍的人一个个面如死灰浑身发抖，齐刷刷跪地求饶，而朱元璋目视前方不为所动。这时李善长从朱元璋身后趋身上前，出面为违纪的将士们求情，朱佯装不允；李善长再请，朱元璋这才气哼哼道：今日看在李先生的面子上饶了你们，所犯罪过暂且记下，各位清楚，我自起兵以来，从不妄杀一人，今后也决不允许滥杀无辜、欺侮百姓，城下之日要秋毫无犯，敢有违抗不从者，格杀勿论！这时，大将徐达带头向元帅表态：坚决按军令行事！其他人纷纷跟着赶紧响应：坚决按军令行事！
至正二十四年（公元1364年）正月初一，朱元璋自封为吴王，以李善长为右相国，徐达为左相国。吴王府管理机构的布局设置，一手由李善长谋划设计，其模样则完全是一个帝国王朝军事、政治结构的雏形。同时在李善长的精心策划下，建立起了官员品级制度、晋见吴王议事朝参制度。李善长事实上把朱元璋奉作一国之君，因此颇得朱元璋欢心。此后紧接着相继构建府州县各级地方行政管理系统。
完成基本政权建设后，李善长目光转向经济建设，及时向朱元璋建议，征榷两淮盐税，设立茶法，参考部分元朝的旧制，去其不合理的地方重新颁布施行。“即复制钱法，开铁冶，定鱼税。”随之制定货币政策，开展金属冶炼，确定渔业税收办法。李善长为朱元璋所制定实施的这一系列经济政策，使吴王所辖地区在一个较短的时间里，实现了“国用益饶，而民不困”，国家财政充裕，百姓生存状况也得到有效改善。
在朱元璋帐下，李善长的工作是琐碎、庞杂甚至是不起眼的，但他做得一丝不苟、兢兢业业，他深知自己的价值就体现在这些地方，萧相国当年赢得刘邦的倚重，凭借的不就是这些吗？