为了让起兵更加有理有扭，李敬业找到了文采很好的骆宾王，小骆确实是个才子，七岁时就能写“鹅，鹅，鹅”了，接到这个任务后，他是挥笔而就，写得天地惊掐神愁，“尤其是其中的一坯之土未干，六尺之孤何托，请看今日之域中，究竟是谁家天下”更是传诵千古。这就是历史上著名的《讨武兆檄》，武兆即武则天，兆字是她自己造的，武则天有造字的癖好。这篇《讨武兆檄》传到各郡后，那是人人争相传抄，弄得纸价上涨了好几倍。据说武则天拿到这份檄文之后，丝毫没有半点愤怒之色，反而为骆宾王的文才大为折服，叹道：“这样的人不能为我所用，宰相之过也。”
同时，因为起兵头子是李敬业，武则天干脆把他的赐姓“李”也收回了，你叫回本家吧，叫徐敬业得了。李勣被赐姓的荣光就这样被徐敬业一杆子打回了原形。
起兵的几人，除了徐敬业之外，其他的都是书生，根本没有作战经验，而且就是徐敬业，作战经验也是相当缺乏的。如果换一个有经验的人，是很可能达到像《讨武兆檄》中描写的那样的盛况的，大军之势如火燎原，把武则天活活烧死在迎仙院中。对徐敬业而言，理想终究只是理想，大军刚举之时，他的革命队伍内部关于行军方向的问题就分成了两派，魏思温认为大军应鼓噪而进，直取东都，薛仲璋则认为秦始皇说的金陵有王气有理，大军应该占据金陵，以长江为天险，先开辟根据地，再图后举。两个人为这事费了不少口水，徐敬业也无法决断，结果大好时机被他错过，本来武则天一时间还没集齐讨伐的力量的，这一拖，武则天聚齐了，徐敬业没天时了。
最后徐敬业还是采纳了薛仲璋的意见，以唐之奇守江都，自领军攻润州。守润州的是不是别人，正是徐敬业的叔叔李思文。李思文的立场不是反武的，听说侄子叛了乱，李思文第一时间向朝廷告了密。得知叛军来攻，就和司马刘延嗣一起发动百姓修城墙，训练士卒。李勣的话，李思文一直奉为至理名言。
徐敬业带着兵来到润州城下，先是侄劝叔降。李思文坚决不同意，此时他已六十有余，但仍披挂上马，前去迎敌。据说，李思文曾经很明白地告诉过徐敬业：你的策略应该是领兵北渡淮河，只要你这样做，我的五千人马全部给你，连粮草也都给你，但你一日不北去，我就一日要与你为敌。
徐敬业看不到叔叔投降的希望，干脆领兵猛攻润州，结果遭到了十分顽强的抵抗，李思文带人死守了几十天，后来扛不住了，徐敬业拿下了润州。李思文、刘延嗣和领兵前来支援的曲阿（今江苏丹阳）县令尹元贞战到力竭，都当了俘虏。
三人被俘后，没人投降。徐敬业大怒，先杀了尹元贞，魏思温请求杀李思文，徐敬业没答应，只是让李思文改姓为“武”，以示侮辱，她也要跟武则天开开玩笑。
徐敬业还非常诚恳地劝刘延嗣入伙，刘延嗣不干，说：“延嗣世蒙国恩，当思效命，州城不守，多负朝廷。终不能苟免偷生，以累宗族。岂以一身之故，为千载之辱？今日之事，得死为幸。”徐敬业大怒，要把他当场斩了。魏思温说刘延嗣是自己的旧交，出面讲情，才免了刘延嗣一死。随后，李思文和刘延嗣一起被关进了狱中。
这边欢庆胜利的锣鼓还没等敲响，武则天那边，李神通之子李孝逸的讨伐大军已渡淮攻来。几乎可以肯定，徐敬业差不多败局已定。
李孝逸大兵压境，徐敬业慌忙回军，将重兵屯在高邮西北的下阿溪，正面抵挡李孝逸大军。起初，徐敬业部气势如虹，数次扛住李孝逸军的进攻。李教逸不敢贸然再战，双方僵持下来。
这时候，凡事谨慎的武则天有了新的想法，说实话，天下人在武则天眼中差不多都是趋炎附势之辈，让她相信的没几个，这当口她就担心李孝逸倒戈，加入徐敬业叛军，于是又令北征突厥的名将黑齿常之领江南兵监视李孝逸。李孝逸这时既怕朝廷怪罪，又怕黑齿常之把他到手的功劳给抢了去，遂采纳谋士向孝逸之计，选择徐敬业部防守的薄弱环节攻击，两军于是在河水两岸往复厮杀。
李孝逸先派苏守祥搞偷袭，渡过河渡到一半时，被徐敬业发觉，徐敬业立时以迅雷不及掩耳盗铃之势反击，苏守祥仓促应战，被打得大败，他本人也身中几刀，落河里作了水鬼。唐之奇俘得李部将军成三郎，认不得此人，向士兵们谎称这就是李孝逸，成三郎连忙纠正，结果纠正完了，自己也成了小鬼一个。唐之奇蔑视之，干嘛不顺着我的意思走。
李孝逸踌躇难定时，监军魏元忠又献上一计——火攻。李孝逸大喜，这战争中屡试不爽的计策自己咋没想到呢，这魏元忠一提，李孝逸立时采纳。徐敬业部本来就是乌合之众，必杀技也就三把斧，三把斧之后，没啥能力了，李孝逸一火攻，正是秋高气爽的好天气，河水两岸的芦苇遇火即燃，稚敬业部兵马大乱。生生被斩掉七千余级，跳河溺死者更是多不胜数。徐敬业、徐敬猷、骆宾王、唐之奇、杜求仁等，轻骑逃回扬州，由于官军一路尾随紧追，仓惶间扬州不敢停留，带着妻子弃城逃离扬州。李孝逸火攻下阿溪击溃徐敬业部后，即乘胜率大军一路追击，进屯扬州，分遣诸将尾随追捕。
徐敬业见大势已去，想逃往海滨，乘船去高丽避避难。然而，李勣这位不中用的孙子在海滨等船的时候，被风浪所阻，人倒霉了喝水都塞牙齿，接着有个想拿赏钱的部下跳了过来，在背后捅了他一刀，高高兴兴提着他没智商的脑袋邀功去了，其他将领，差不多都被俘虏，只有一个骆宾王人间蒸发，没了下落。成了历史上一桩谜案，有说骆宾王被部将王那相所杀的，有说骆宾王逃匿于今江苏南通一带的，有说骆宾王后来削发当了和尚的，反正众说纷纭。
起兵的二十五个将领的脑袋，后来全部被武则天装裱一新，高高挂在洛阳城的城门之上，供天下人瞻仰，意思是，你们看看，这就是反叛我的下场。平了乱，武则天余怒还未消，棺材中的李勣也被治罪，纵然李勣是位极人臣的开国元老，纵然他在她为后时曾亲捧玺绶，纵然他曾经征服高丽，纵然他已在九泉之下又怎样，挡武则天者，统统都得“死”。李勣“死”后再“死”就是被武则天掘开坟墓，开棺戮尸，挫骨扬灰的。因为一个不肖的孙子，可怜了一代老臣。对子孙合乎逻辑的走向和皇室一以贯之的手段的预料，李勣再次体现了料事如神的智慧。
但徐敬业之后，李勣的子孙差不多被诛了个干净，只有李思文一支流着，但已经确确实实改姓了武。其他旁系子孙有侥幸逃脱的，也不敢在中原呆了，跑去蛮荒之地垦荒去了。唐德宗贞元十七年（公元801年），吐蕃跟大唐掐架，攻下了唐帝国的麟州，俘虏了几千汉人，吐蕃准备把这些汉人押回高原作奴隶，走到半路时，这些汉人们遇到了一个叫徐舍人的好心吐蕃将领，将其全部释放，当汉人们问徐舍人姓名，以后好寄锦旗时，徐悲鸿舍人透露自己就是李勣后裔，其先祖在跟着徐悲鸿敬业闹事失败后跑到了吐蕃，从此在那儿繁衍生息，现在已经历经几代，时间久了，但仍然很难忘记故国，这次念关故国之情，故而放了尔等。这就是史书上记载的有关李勣后人的只言片语。
身前身后事
随着徐敬业伏诛，李勣一门以及李勣的官场哲学，开始落下帷幕。
金无足赤，人无完人，古代人看李勣，有优点，也有缺点。现代人看李勣，也有优点，有缺点，只不过，古代人眼中的缺点，在现代人眼中，又幻化成了优点。而李勣的缺点，已经太少太少了。
先看看通认的优点。
李勣给领导的第一印象就是忠，不光是翟让、李密、李渊、李世民、李治还是武则天，李勣从来都是忠字当头。李勣与翟让共创瓦岗大业，为了瓦岗的生存和发展，李勣尽职尽责，提出了不少有见的的措施，生生把瓦岗军打造为隋末第一叛军，更是以其战略的灵活运用，让强大的隋军对瓦岗军莫可奈何，望岗兴叹。
李密来瓦岗后，眼睛毒辣的李勣第一眼发现了这个潜在的领导，为了瓦岗的长远利益，李勣没少在翟让面前说过把政权让给李密。这种做法绝不是对翟让不忠，而是实实在在地为组织办事，为领导分忧解难，翟让被杀时，李勣也被砍了一刀，这一点就能说明他其实还是跟翟让共进退的。
只是翟让死了后，李勣没舍得陪他去地下，他惜命如今，有了新领导就跟新领导干，而且一如既往地忠，给李密的第一个好印象就是说服翟让的旧部不要散伙，大家还是紧密团结在李密的周围要紧。就这一件事，就让巴巴地望着瓦岗军解散的王世充心凉了半截。
对于李密的大小任命，李勣那是整个一毫无怨言，领导说的，对的也是对的，不对也是对的，即便真有不对得离谱了，那也委婉地提出，你要跟领导对着干，饭碗就保不住，这年头，吃饭比什么都重要，西北风喝久了是会喝死人的。