在进行经济、军事改革的同时，对齐国后来争霸产生关键作用的是政治改革。齐国旧制度的直接弊端是政令不通，国家行政效率低下。在完成对国民经济绝对控制权以及军队的绝对掌控的同时，管仲对行政体系也进行了重新整合。在地方上，全国共分为二十一个乡，国内老百姓士农工商四阶层，按照其不同的身份划分居住范围，其中工商住在六个乡，士农住十五个乡，士为独立的职业军人，专司作战，农民专司种田。国家的行政体系也进行了重新整合，地方上设立五属，每个属各设立一个大夫，大夫直接对国君负责，由国君直接管理其工作。上下严密的行政体系就这样形成了，齐国的中央集权制度，就这样建立起来。
经过了数年精心改革后，到了公元前681年，齐国已经拥有了繁荣的经济，强大的军队，严密的行政机构，中央集权的绝对统治，无论是经济条件、军事力量，还是国家的组织制度，都远远领先于中原诸侯国。霸主地位，舍我其谁。所以从公元前681年开始，齐国正式开始了争霸之路，第一次提出了称霸口号--尊王攘夷。齐桓公的霸主时代，开始了。
三
拥有强大力量和先进制度的齐国，争霸之路却并不顺利，原因是当时的中原局面，怎一个乱字了得。各诸侯间相互攻伐不说，北方蛮族也不断进犯，内战外战打得乱七八糟。做诸侯的，今天还是大国，明天说不定就国破家亡。你说"尊王攘夷"，谁听你的?
不过齐桓公确实不是一般人，以往诸如郑庄公那样的"小霸"，虽然也搞分化瓦解拉拢这一套，但基本是不服就打，连周天子也照揍。齐桓公认为，这样是不对的，暴力并不能解决一切问题，周天子这面大旗，虽然内里破败不堪，但还是可以拉来做虎皮的，所以要称霸，既要软硬兼施，又要拉大旗做虎皮。
齐桓公首先抓住的机会是宋国内乱。在春秋早期，宋国也曾经是一个大国，但自从被郑庄公狠狠修理后，宋国的国力就每况愈下，内乱不断。公元前681年，宋国发生内乱，国君被杀，其子御说即位，但地位不稳。这事本来和齐桓公八竿子打不着，但齐桓公却利用了这不是机会的机会，他先派人朝见周天子，请求承认宋国新国君的合法身份。这一朝见非同了得，多年不被人待见的周天子当即感动得热泪盈眶，立即授权齐桓公代表周王室来办理此事。公元前681年三月初一，齐桓公会合宋、鲁、陈、蔡、卫、郑、曹在北杏会盟，宣布宋国国君的合法地位，并以诸侯头领的身份订立盟约。北杏会盟，也就成了齐桓公称霸道路的第一步。
但这第一步却摔了个大跟头。诸侯们不是傻瓜，齐桓公这套把戏瞒不过大家的法眼，什么会盟诸侯，什么代表周天子，我傻乎乎去了，以后就要听你吩咐，凭什么?结果会盟邀请下发后，但凡有点实力的都不答理齐桓公。实际到会的只有宋、陈、蔡、邾四国，热火朝天的会盟，搞成了只有四国参加的"惨淡经营"。就这"惨淡经营"也出了岔子，本来作为会盟幌子的宋国国君，会开了几天明白过来，这是要我给齐国当小弟啊!这怎么成，当下脚底抹油跑路了。大张旗鼓地忙活了半天，到最后却被人家给晒了，本想长面子的齐桓公，这面子却丢大了。