如何对付匈奴的骚扰，曾是西汉中期以前政治生活的一件大事。汉初采取和亲政策，并加强防范。汉武帝时开始反击，经过几次大规模战役，“是后匈奴远遁，而幕南无王廷”，保证了边境的宁静，便利了汉与西域的交通。昭帝时，南匈奴单于降汉，又在汉朝帮助下统一全匈奴，从此汉匈和好。西汉末年大乱，匈奴控制了整个西域及东北的乌桓、鲜卑等族，不断深入长城以南进行骚扰掠夺。东汉草创，忙于拓定中原，对匈奴以消极防守为主。建武二十四年（公元48年），匈奴又分裂为南、北两部，南匈奴归顺东汉，入居沿边八郡，协助东汉防御北匈奴进犯，东汉政府每年提供给南匈奴一定数量的粮食、牛马及丝织品等物。北匈奴在南匈奴打击下，却地千里，不断遣使朝贡，要求和亲。东汉政府为此争论纷起，或主张接受归附；或主张征服。刘秀深谋远虑，对这两种意见都没有采用，他认为接受北匈奴归附，会使南匈奴离心生变，引起纷争；派军平定，难以消灭，徒滋劳扰，因此采取礼尚往来的政策，以求安边和好。
明帝、章帝时期，北匈奴始终为汉边患，长期威胁边境安全，但北匈奴迫切需要与中原交换产品，所以又强烈要求互市和和亲。明帝永平七年（公元64年），朝廷准许互市，并遣使回聘，引起南匈奴部分贵族猜忌，他们与北匈奴相勾结，企图乘机发动叛乱，不断进攻河西诸郡，甚至胁迫西域诸国一起入侵。事实证明：不彻底制服北匈奴，东汉的北方边境是无法安宁的。明帝永平十五年（公元72年），耿秉、窦固等人率军讨伐北匈奴，大获全胜，又因为北匈奴控制西域，所以派出班超去西域联络各国君长。班超在西域接连取胜之时，北匈奴的处境越来越困难：内乱、饥荒、蝗灾，先后有数十万人入塞投降，受北匈奴奴役的各族人民也纷纷起来反抗，“南部攻其前，丁零寇其后，鲜卑击其左，西域侵其右”（《后汉书》卷89，《南匈奴列传》），反攻北匈奴的时机逐渐成熟。南匈奴单于企图吞并北匈奴，也于章和二年（公元88年）七月上书请求出兵。
窦宪上书以后，司徒袁安、太尉宋由、司空任隗及九卿均表示反对，他们持重因循，认为现在北匈奴不犯边塞，就不必劳师远涉，损费国用，邀功万里，不是社稷之福。其实他们可能更担心窦宪北伐立功，这样将更难对付。奏章连连呈上，没有任何消息，宋由怕事，不敢复议，只有袁安、任隗坚持原议。太后又问征西将军耿秉，耿秉认为以夷制夷，国家之利。太后遂决心支持出兵。
章和二年（公元88年）十月，窦宪被拜为车骑将军，金印紫绶，并以司空的规格设置官属。他以执金吾耿秉为副，耿秉久习边事，英勇善战，并调发北军五校（汉代守卫京师的军队）、黎阳、雍营、缘边十二郡骑兵及羌胡兵士，兵出塞外。因为窦宪的特殊身份，精兵良将倾朝而出，窦宪赖以成功的条件实在很优越。
永元元年（公元89年），窦宪与耿秉各率4000骑兵，与南匈奴左谷蠡王师子的1万多名骑兵出鸡鹿塞；南单于屯屠河又带万余骑出满夷谷；度辽将军邓鸿及羌胡8000骑与南匈奴左贤王安国出稠阳塞。窦宪调度已毕，就命令各路人马会师于涿邪山，然后组织了第一次大会战，派去副校尉阎盘、司马耿夔、耿谭率南匈奴左谷蠡王师子、右呼衍王须訾等人，共带1万多名精锐的骑兵与北单于会战于稽落山（今漠北西部的额布根山），联军勇不可挡，一战而胜，北匈奴溃不成军，其单于也仓皇逃走，追兵一直追到私渠比鞋海，斩首1.3万余人，又获得了丰硕的战利品：马、牛、羊、骆驼100多万头。北匈奴经此一战，元气大伤，前后有81部20余万人前来降汉。汉军出塞三千里，风硬沙砺，天高地阔。想当年西汉名将卫青、霍去病征战塞外，名垂青史，而今自己也不输古人，窦宪亦不觉豪情满怀，他与耿秉登上燕然山（今蒙古人民共和国杭爱山），刻石记功，以表汉朝天威。文采斐然的大手笔班固亲自作铭，言辞典雅，热情洋溢。他在铭文的序言中写道：“兹所谓一劳而永逸，暂费而久宁者也。”为赎罪而立功的窦宪身为统帅，尽管开始动机有些不纯，然而经过长途跋涉，艰苦转战，此时也甚觉豪迈！
军事成功，威令已行，窦宪从塞下回军，改用政治和外交手腕，让军司马吴汜、梁讽带上金帛礼物去向北单于宣扬国威，又兵随其后，保持威慑。当时的北匈奴一片慌乱，吴、梁二人所到之处，纷纷投降，前后招降万余人，并与北单于在西海会盟。梁讽劝说北单于以呼韩邪单于为榜样，保国安民。北单于听了很是高兴，就派自己的兄弟右温禺王上贡入侍，窦宪见单于不亲自前往，不太满意，觉得目标还没有达到，上奏遣还单于的兄弟。南匈奴单于与汉王朝联合出兵，大败北匈奴，又见窦宪退还北单于的兄弟，料想北匈奴与汉朝和好一时无望，自己的地位还算稳定，心下十分喜悦，派人送给窦宪一只古鼎，是西周宣王时大臣仲山甫之鼎，鼎有铭文：“仲山甫鼎，其万年子子孙孙永保用。”窦宪把这件贵重的礼物上交了朝廷。
威震边疆，恩结戎狄，窦宪的地位已非昔日可比。永元元年（公元89年），朝廷的使节来到五原，拜窦宪为大将军，封武阳侯，食邑2万户，窦宪故作谦让，辞去封赏，只受大将军印绶。本来大将军位在三公之下，只是所置官属可以依照太尉的标准，现在是官随人变，因为窦宪的威名，公卿阿谀附势，奏称窦宪的地位应该仅次于太傅，而在三公之上，官属品级也应相应提高。旗开得胜的大将军窦宪胜利还朝，大开粮仓府库，赏赐士卒，二千石子弟随同出征的，全部充任太子舍人。当时窦笃为卫尉，窦景、窦瑰为侍中、奉车、驸马都尉，四家竟修府邸，穷极奢靡。永元二年（公元90年），朝廷又下令封窦宪为冠军侯，食邑二万户，笃为郾侯、景为汝阳侯，各享食邑六千户。和帝并未亲政，这种诏书当然还是出自太后之意。窦宪独不受封，二次出兵，镇守凉州，以侍中邓叠为副，代行征西将军之事。为配合班超在西域对北匈奴展开的斗争，窦宪派副校尉阎言龙率3000余骑出兵西域，一战而取伊吾，而且使叛附不定的车师大为震慑，车师前、后王均遣子入侍，内附汉朝。
北匈奴单于因为兄弟入侍不成，惶恐不安，又派车谐储王去居延塞向汉宫致意，请求亲自入朝，希望朝廷派出使节，窦宪于是让中护军班固代行中郎将之职，与司马梁讽一起去迎接。不料南匈奴正在锲而不舍地实施自己的计划，对北匈奴穷追猛打，北单于带伤逃跑。班固到了私渠海时，见情势已经发生了变化，只好返回。窦宪看到北匈奴如此虚弱，就动了毕其功于一役的念头。永元三年（公元91年），他派右校尉耿夔、司马任尚、赵博等再次率军出击，耿夔只带800精骑，出居延塞，直奔金微山（即阿尔泰山），斩阏氏（单于之妻）、名王以下5000余级，北单于单骑西逃，远走乌孙。这次出军，出塞5000里，尽获珍宝财物，自汉以来，史无前例。
窦宪自矜己功，为了显示自己的恩德，上表要立降服的左鹿蠡王阿佟为北单于，置中郎将领护，一如南单于故事。太尉宋由、太常丁鸿、光禄勋耿秉等十人认为可行；司徒袁安与任隗以为，光武帝招降南匈奴只是权宜之计，现在朔漠平定，应让南单于返归北庭，无故又立阿佟，徒增国费；宗正刘方、大司农尹睦支持袁安，众说纷纭，莫衷一是。袁安担心窦宪一意孤行，单独再次上奏：南匈奴单于举众归汉，四十余年，南北匈奴分立的格局不宜打破；况且这次出兵，南单于首倡大谋，实为有功，如果再立北单于，同样对待，有失恩信；乌桓、鲜卑刚刚杀掉北单于，汉朝再立单于之弟，乌桓、鲜卑必定怨恨政府；再者，中央每年供给南单于的费用高达1亿90余万钱，供给西域的费用每年是7480万钱，若在北庭又立北单于，照样供给的话，路程更远，所费过倍，耗费国家财力，实在不是安邦之策。诏令公卿再次议论，袁安与窦宪互相辩难，窦宪恼羞成怒，大肆诋毁，还拿光武帝诛杀韩歆、戴涉的事例来威胁袁安，袁安毫无惧色。窦宪依仗权势，还是固执己见，扶立右鹿蠡王於除为北单于，然而正如袁安所料，於除很快反叛。在这件事上，窦宪出于一己之私心，好大喜功，确实措置失宜。
不过总的说来，经过这次打击，不仅是北匈奴，整个匈奴族力量削弱，再也没有昔日的辉煌，不久其部族就融入鲜卑族，或于公元四五世纪为柔然族吞并。此后，虽有少量匈奴在边境作乱，但对中原的政权已无法构成威胁。自先秦以来一直困扰中原王朝、驰骋大漠的匈奴族逐渐成为历史。窦宪因时际会，获得了重大成功。
意义更为重大的是：北匈奴主力由此离开了中国边境，向西迁移。西迁经过了漫长的岁月和艰辛的旅程。公元四世纪中期，匈奴人已进入欧洲，并占领了从顿河到喀尔巴阡山脉的全部里海北岸。原来居住在这里的日耳曼部落的哥特人，于公元三世纪分裂为东、西两支。东哥特人归服了匈奴人，西哥特人不愿受匈奴人压迫，越过多瑙河避难，受尽罗马官吏的欺压。公元376年，西哥特人掀起反对罗马统治的起义，奴隶、隶农和矿工都加入了起义的队伍。罗马皇帝瓦伦斯战死，起义促成了公元395年罗马帝国的分裂。匈奴人还在匈牙利平原上建立了强大的国家，积极向外扩张，席卷了欧洲大部，对欧洲古典奴隶制的瓦解和西罗马帝国的灭亡在客观上起了催化作用。公元453年，匈奴族杰出的首领阿提拉死后，匈奴势力才逐渐衰落。窦宪自然不会想到：他的乘虚一击会使中国历史和世界历史紧紧地衔接起来，并影响如此深远。他只知道自己功成名就，有了傲视天下的资本。