头曼单于的太子叫冒顿，后来头曼宠爱的阏氏生了个小儿子，头曼便想废冒顿而立小儿子为太子，于是派冒顿去月氏当人质。冒顿到月氏当了人质后，头曼却紧攻月氏。月氏人欲杀冒顿，冒顿偷了月氏人的一匹良马，逃回匈奴。头曼认为他很勇猛，就让他统领一万骑兵。冒顿制造出了响箭，就训练他的部下骑马射箭，下令说：“凡是我的响箭所射的，如果有谁敢不跟着我全力去射，就立即斩首。”首先率人在外射猎鸟兽，遇到不射响箭所射的目标的人，就立即杀了。不久，冒顿以响箭射自己的良马，左右侍从有不敢射击的，冒顿立即杀了他们。过了段时间，冒顿又用响箭射自己宠爱的妻子，左右侍从有感到害怕而不敢射击的，冒顿又把他们杀了。又过些日子，冒顿出外打猎，用响箭射单于的良马，左右侍从都跟着射。于是冒顿知道他左右侍从都是可以任用的人。他跟随父亲单于头曼去打猎，用响箭射头曼的头，他左右侍从也都跟着响箭把单于头曼射死了，于是又把他的后母、弟弟以及不服从的大臣杀尽。冒顿自立为单于。
冒顿当上单于后，当时东胡强盛，听说冒顿杀父自立为单于，就派使者告诉冒顿，想得到头曼的千里马。冒顿询问群臣，群臣都答道：“千里马是匈奴人的宝马，不要送出去。”冒顿说：“同人家邻国而居，怎能吝惜一匹马呢？”于是就把千里马送给了东胡王。过了不久，东胡王以为冒顿怕他们，就派使者告诉冒顿，想要单于的一位阏氏。冒顿又询问左右侍从，众人皆发怒道：“东胡人放肆，竟敢索要我们的阏氏，请您出兵攻打他们。”冒顿说：“同人家邻国而居，怎么能吝惜一个女人呢？”于是就把自己心爱的一位阏氏送给了东胡王。东胡王愈来愈骄狂，向西侵犯匈奴。东胡与匈奴之间有一块荒地，没有人居住，这片土地方圆一千多里，双方各自在边境修起屯守的据点。东胡派使者对冒顿说：“匈奴与我们交界的据点以外的荒地，你们不能去，我们想要占据那里。”冒顿去询问群臣的意见，有人说：“这是荒地，给他们也可以，不给也可以。”这时冒顿大怒道：“土地，是国家的根本，怎么能给他们！”于是诸臣中说要给东胡土地的人都被杀了。冒顿上马，下令全国如有后退者就斩首，于是向东袭击东胡。东胡人最初轻视冒顿，因此没有戒备。等到冒顿大军杀来，大败东胡，杀死了东胡王，而且掳走了那里的百姓，掠夺了牲畜、财产。匈奴冒顿回师后，又向西打跑了月氏，向南吞并了楼烦和白羊河南王。并将秦朝派蒙恬夺去的土地全部收复了，与汉朝以原先的河南塞为界，兵至朝那和肤施两地，于是便入侵燕国和代地。那时汉军正与项羽大军对峙，中原地区的人民疲于征战，因此冒顿才能独自强大，拥有三十多万能拉弓射箭的士卒。
从淳维到头曼一千多年，匈奴的势力时大时小，忽散忽离，因为经历时间太久，所以他们的世系传承已经不能依次排序。然而到了冒顿当单于时，匈奴的势力达到最强，这使北方夷狄完全臣服于他的统治，在南面与中原成为敌国，此后他们的世系传国以及官位名号才被记述了下来。
匈奴设置了左、右贤王，左、右谷蠡王，左、右大将，左、右大都尉，左、右大当户，左、右骨都侯。匈奴人把“贤明”称为“屠耆”，因此常会让太子做左屠耆王。从左、右贤王以下到当户，官大的有万名骑兵，官小的也有数千骑兵，总共有二十四位长官，称号为“万骑”。诸位大臣都是世袭官位。呼衍氏、兰氏，以及后来的须卜氏，这三个姓是他们中的贵族。左方各王、将居住在东方，面对上谷以东的地区，东边与秽貉、朝鲜接界。右方各王、将居住在西方，面对上郡以西的地区，与月氏、氐还有羌接壤。而单于的王庭一直延伸到代、云中两郡。各人有各自的领地，随水草而迁徙住地。左、右贤王与左、右谷蠡王是官职最大的，左、右骨都侯辅佐政事。二十四长官也各自设置千长、百长、什长、裨小王、相、将、都尉、当户、且渠等类官员。
每年正月，各位长官都在单于的王庭小聚，举行春祭。五月，在龙城有大的集会，祭祀他们的祖先、天地神和鬼神。秋天，等到马匹肥壮之时，在蹛林举行大的集会，核算人口和牲畜的数目。匈奴法律规定，将刀拔出刀鞘一尺的就被处死，犯盗窃罪的人没收他的家产；犯小罪的人判轧碎骨节的刑罚，犯大罪的人被处死。入狱最久不超过十天，全国的犯人不过几个人。单于清晨时要走出营地，朝拜初升的太阳，傍晚要朝拜月亮。他们就坐时，年长的人在左边，面向北方。他们崇尚戊日和己日。他们给死者送葬时有棺椁、金银和衣裘，却没有坟冢以及丧服礼仪。单于死后，为他殉葬的他所宠幸的大臣及妻妾，多达数百人或上千人。匈奴人准备打仗时，要先观察星星和月亮，如果月圆就去攻伐，月缺就退兵。匈奴人在征战时，谁斩杀或是俘虏敌人，都会得到一壶酒的赏赐，所缴获的物品也归他，捕获的人也给他们当奴婢。所以打仗的时候，每个人都自动上前寻求利益，善于用诱敌之兵突然袭击敌人。所以他们一见到敌军，便上前追逐利益，如同飞鸟云集。遇到危难的情况，队伍就会土崩瓦解，如同云雾消散。作战中谁能将战死者的尸体运回来归葬，就可获得死者的全部家财。
后来，冒顿又向北征服了浑庾、屈射、丁零、鬲昆、薪犁等国。这时，匈奴的贵族、大臣都佩服冒顿，认为冒顿单于真是贤能。