查理大帝的儿子路易死后，查理大帝的孙子将查理帝国一分为三了：东法兰克王国、西法兰克王国和意大利。其中的东法兰克王国就是德国的前身。
公元10世纪初，东法兰克王国里并列着五个公国：萨克森、士瓦本、巴伐利亚、法兰克尼亚和洛林。萨克森是法兰克王国中最强大的公国。它的首领亨利一世对王位觊觎已久。他采用一切手段实现自己的目的。公元919年，他被推举为王。从此，开始了德国历史上的萨克森王朝。
公元936年的一天，在法兰克王国首都亚琛的中心广场上，正在召开“民众大会”选举新国王。这是日耳曼人的传统，即国王的认定，必须由先王确定后，再由全体人民选举才能成为合法的国王。先王亨利一世去世前，已经确定由儿子奥托即位。奥托自幼能文能武，从10岁起就经常随父王出征，被国人呼称为“马背上的王子”。他长大后被民众大会又选举奥托为王，于是，只有十四岁的奥托在亚琛加冕登基了。他朝气蓬勃，全身散发着青春的活力。在音乐中，美英茨大主教希里德波特把象征王权的宝剑、手镯、斗篷和权仗交给了他。同时，他还领受了面部敷油圣礼。这是政教团结的标志。
传说就在奥托称王的这天夜里，奥托作了一个奇怪的梦，梦见自己平生最崇拜的法兰克人的皇帝查理大帝来到他的面前，对他说：“你马上到罗马去，到圣彼得大教堂去，教皇一定会为你加冕的。这样，你就是古罗马帝国及其皇统的合法继承人了。”说完，便飘忽而去了。奥托急忙奔过去，想拦住他问个究竟。虽然只有一步之差，但怎么也赶不上。奥托心里一急，便惊醒了。他披衣坐起，想想父王在梦中说的话，他深感自己一定要管理好国家。从此，奥托勤于治国，整军爱民，一心要做古罗马帝国的继承人。奥托继位后，有的公爵欺他年轻，开始谋反了。
奥托闻听，怒目圆睁，披挂上马，亲率大军将所有反叛的公爵一一擒获了。公爵们为保全性命，一再认错，奥托便任命他们为王室的大臣、侍卫长等职，实际上是把他们变成自己的封臣和下属了。
奥托平定国内叛乱后，刚想轻松一下。他的弟弟奥列维带来一个不好的消息，巴伐利亚公爵又谋反了。奥托立刻派一部分士兵绕小道先行，混进诺伐拉城，他自己率军随后就到。—大军日夜兼程，三天便到了巴伐利亚公爵格林所在地一诺伐拉城外的一条小河旁，与诺伐拉城只有几里之遥了。
一场大战就在眼前了。消息传到城里，格林公爵立刻召集人马准备抵抗，士兵们却都拒绝作战。格林公爵见此情景，忙答应打胜仗后把自己的家产分给大家一半。士兵仍然不肯打，急得他眼泪都流出来了。眼见大势已去，他想化装逃走，结果被他最信任的仆人出卖了。
他被带到奥托面前，奥托骑在马上，异常威严，冷笑道：“卑鄙的家伙，上次谋反，我原谅了你，对你恩宠有加，没想到你还执迷不悟。此次若再饶了你，天下你都不会答应的。眼下只有三条路，任你自选其一：跳崖、自刎和上吊。”
最后，格林浑身颤抖地吊死在树上。接着，奥托任命格林的弟弟为巴伐利亚新公爵，随后又任命自己最信任的神父巴图为巴伐利亚的大主教，并授予他司法权。这个权力本来是属于公爵的，奥托唯恐新公爵再走他哥哥的老路，便将此权授予了神父。史书上称之为“奥托特权”。此举确立了主教由世俗君主授职的原则，也为教俗之间授职权之争埋下了种籽。
此后的十几年间，奥托在西方打败了法国和勃艮国，在东方占领了邻近德国的斯拉夫人的大片土地，还加强了对波希米亚的控制。
奥托生得虎背熊腰，率领大军东征西讨，无往而不胜。但他没有因此而满足，登基那天晚上的梦一直萦绕在他的心头。他的脑海里一直有个声音在叫喊着：“到罗马去！到罗马去！”
一天，侍从进来报告道：“有个修道士要见陛下。”奥托闻听一愣，心想：自己从未与修士有过往来，怎么会有修道士突然来访呢？他思忖片刻还是点头同意了。
不一会儿，一个修道士打扮的人走了进来，深深地鞠了一躬，然后说道：“尊敬的陛下，请您允许我提个问题。”
奥托点头示意可以，修道士说道：“陛下作为德意志和意大利的国王、古罗马帝国及其皇统的合法继承人，为何不到罗马去呢？只在王宫或军队里徘徊，范围太狭小了。到罗马做弥撒是陛下必不可少的，也是必要的。”
奥托闻听吃惊地问道：“你说什么，我会成为意大利国王和古罗马皇统的合法继承人？我，一个蛮族的后裔？”
“怎么不能？世上的事只要敢干，就没有不成功的。况且陛下无论是相貌还是体魄都透着帝王之相，上帝会保佑您的。”
奥托对前景的实现更有信心了。公元961年5月5日，奥托率领大队人马前往意大利。他的部队势如破竹，一路上打败了意大利前来抵抗的军队，直奔罗马。5月25日，奥托在一片欢呼声和钟鼓声中，坐在高头大马上进了罗马城。
当天晚上，在罗马城的广场上举行了盛大的欢迎会。人们手里拿着蜡烛，把整个广场照得通明。罗马城的代表纷纷发言，表示忠心归顺。最后，罗马教皇约翰十二世站起来，手中拿着一顶王冠，高高举起，展示在大家眼前，大声地说道：“亲爱的弟兄们，这是意大利国王的王冠。这顶王冠非同一般，它的冠边有我主耶稣十字架上的铁钉。”
人群中立刻骚动起来，一些人踮起脚尖，伸着脖子想看看教皇手中的王冠。教皇将王冠戴在奥托的头上，会场立刻响起了经久不息的欢呼声。这样，奥托——这位德意志国王，从此便兼任意大利国王了。
奥托要回德国去。临行前，他任命自己的贴身侍从马科罗齐担任罗马兼伦巴底的总督。
不料，半年后，罗马城的贵族谋反，马科罗齐和几个随从逃回德国，向奥托呈报了情况。接着，奥托又接到教皇约翰十二世的密信，请求他马上救援。原来，约翰担任教皇后，一直受罗马大贵族托比诺等人的钳制。如今，他们把约翰软禁在一座小修道院里，另立托比诺的叔叔——年已七旬、昏聩糊涂的朱利亚诺为新教皇。
奥托立即骑上他那匹高头雪青色骏马，又一次率领军队前往意大利。托比诺等人成了惊弓之鸟，奥托没费吹灰之力便将他们全部俘获，被软禁的约翰十二世重新获得了自由。
公元962年2月2日，在罗马圣彼得大教堂里，祭台上香烟缭绕，人们唱起古老的赞美歌来。外面众炮齐发，大家都沉浸在欢乐和虔诚里。随后，教皇约翰十二世为奥托加冕，称他为“神圣罗马帝国皇帝”。从此，这个帝国就像天主教会一样，包括了一切基督教王国，成了古代基督教罗马帝国的真正继承者。这标志着教会与世俗势力相统一的中央政权的建立，奥托作为教会的保护者而凌驾于所有人之上。
奥托是神圣罗马帝国的创立者。由于他在巩固德意志封建国家方面的功绩，被史学家称为“奥托大帝”。