627年，阿布·苏富扬召集麦加古莱什部落及其盟友共约1万人，再次进军麦地那。这时的穆斯林军队只有3000人。
他们吸取伍侯德之战的教训，固守麦地那。麦地那东、南、西三面被山丘和树林包围，只有北面是开阔地。
穆罕默德采纳波斯弟子赛勒曼的建议，在北面挖了一条壕沟。穆斯林连续干了6天6夜，在麦加人到来之前挖好了壕沟。
3月31日，麦加联军到达麦地那。壕沟是沙漠中的阿拉伯人闻所未闻的防御方法。当麦加骑兵看到壕沟时，他们惊奇无比，无法发起冲锋，只能将麦地那团团围住。
麦加联军围攻一个月后见取胜无望，只好自行撤离。"壕堑之战"是双方力量消长的转折点，穆罕默德开始从守势转为攻势。
一年后，穆罕默德率领1400人向麦加进发，目的是去麦加朝觐。他穿着朝觐的白色戒袍，以免麦加人误会。疑心重重的麦加人派出骑兵堵截，穆罕默德则抄山路绕过麦加军队，在麦加城外的侯达比亚扎营。
他派遣奥斯曼去向阿布·苏富扬表明来意。双方经过长谈，达成和解协议。协议规定，双方停战10年，阿拉伯半岛上的部落可自愿与麦加或麦地那任何一方结盟，穆罕默德将朝觐推迟一年。协议使麦地那获得了与麦加平等的地位，这是穆罕默德的重大胜利。
《侯达比亚协议》的签订，使麦地那在南线获得了和平。接着，穆罕默德征讨麦地那以北的一系列绿洲，为最终征服麦加解除了后顾之忧。
629年3月，根据《侯达比亚协议》，穆罕默德率2000名穆斯林前往麦加朝觐。他们将盾牌、铠甲、长矛和弓箭等武器留在城外。
穆斯林精神抖擞，步伐整齐，口号震天。穆罕默德履行环绕天房的朝觐仪式。令麦加人不可思议的是，穆罕默德开始环绕时不是慢走而是奔跑。
2000名穆斯林竟然跟随穆罕默德一起奔跑，这更令麦加人吃惊。
穆斯林在麦加停留了3天，给古莱什人留下了深刻的印象，麦加开始人心浮动。
此后不久，曾经是伊斯兰教顽固反对者的赫立德和阿穆尔结伴来到麦地那，加入伊斯兰教。他们在日后为阿拉伯帝国立下汗马功劳，分别被称作"真主的宝剑"和"阿拉伯政治天才"。
629年夏，麦加古莱什人帮助自己的盟友袭击了一个与穆斯林结盟的部落，破坏了《侯达比亚协议》。古莱什人感到后怕，派阿布·苏富扬与穆罕默德谈判，穆罕默德没有同意。
630年1月，穆罕默德率1万人向麦加进发。阿布·苏富扬主动出城投降，皈依了伊斯兰教。穆罕默德宣布："谁走进阿布·苏富扬的家，谁就是安全的。"
他给予自己昔日的死敌以如此尊贵的礼遇，以此昭示伊斯兰教的宽容，对麦加实行大赦。穆斯林分四路进入麦加，几乎没有遇到什么反抗。
穆罕默德径直来到克尔白天房，绕行7周后，下令捣毁天房中多神信仰的所有偶像，并高呼："真理已来临了，虚妄已消灭了。"经过近8年的艰苦斗争，穆罕默德终于征服了麦加，除掉了阿拉伯统一的最大障碍。
630年-631年，阿拉伯半岛的许多部落纷纷向麦地那派遣代表团。这些部落在口头上表示加入伊斯兰教，并保证缴纳天课(宗教税)。
阿拉伯半岛上自由散漫的贝都因游牧部落在历史上第一次服从一个统一的政治权威。631年是伊斯兰教历9年，被称为"代表团之年"。
这种统一更多的是一种形式上的统一，主要靠穆罕默德来维系。很多部落认为归顺麦地那不过是对穆罕默德本人的服从，632年穆罕默德去世之后，他们又背叛了伊斯兰教。
面对叛乱四起的局面，穆罕默德的继承人、第一大哈里发阿布·伯克尔坚决予以镇压。在给各部落的信中，阿布·伯克尔说："我已向你们派出一支军队。我已命令军队的统帅，谁承认真主，就协助他；谁否认真主，就与他作战！"
阿布·伯克尔任命赫立德为平叛统帅。赫立德首先平定了塔伊、阿萨德和盖特方部落。他只将那些曾残害穆斯林的人绳之以法，其他人则既往不咎。
叛乱部落中实力最强的是半岛东部耶马迈地区的哈尼法部落，他们支持伪先知穆赛里姆。两名先期前往平叛的穆斯林将领都被哈尼法部落击败。
得知赫立德亲自带队前来，穆赛里姆率4万人迎战。两军在阿格拉巴决战，战斗空前激烈。为了激励士气，赫立德命令："所有人按自己的部落列队作战，这样我们就知道谁勇敢、谁软弱。"
赫立德意识到只有杀死穆赛里姆才能使战斗结束。他亲自率兵冲向敌阵，直扑穆赛里姆。
他口中高呼"穆罕默德！穆罕默德！"所有穆斯林战士随着他齐声诵念先知的名号，奋勇冲锋。哈尼法部落簇拥着穆赛里姆退进一所庄园。
穆斯林军队奋力攻破庄园大门，和哈尼法军队肉搏，最终穆赛里姆被一名穆斯林黑奴杀死。
赫立德继续前进，看到在哈尼法部落的城堡上还站着黑压压的守军。他不知道战斗继续下去结果会怎样，于是接受了哈尼法人提出的条件，对方交出全部的金银、铠甲和马匹，赫立德则把一半的俘虏交还他们。
赫立德进入城堡时才发现这些所谓的守军，不过是穿着铠甲的妇女和老人。在哈尼法部落接受伊斯兰教后，赫立德和他们缔结了和约。
耶马迈被平定后，穆斯林军队势如破竹，先后平定了巴林、阿曼、也门和哈德拉毛的叛乱。633年，阿拉伯半岛实现了真正的统一。
著名的阿拉伯史学家希提评价说："阿拉伯半岛借着赫立德的宝剑被统一在阿布·伯克尔的旗帜下。阿拉伯人必须先征服自己，然后才能征服世界。"
622 ～ 632 年，是穆罕默德宗教主张实施和阿拉伯国家建立的时期，即麦地那时期。（雅特里布此后改称麦地那，意为先知之城。）徙志，标志着穆罕默德事业的重大转机。
在麦加，他不过是一个平民，在麦地那，他成了一个社会集团的领袖；在麦加，他只是宣传伊斯兰教，在麦地那，他能将伊斯兰教的主张付诸实行。