1922年6月，在德国哥廷根“玻尔节”上，量子理论创始人玻尔作了7次着名演讲，简明地阐述了原子结构理论。在听众中，有一位专程从慕尼黑赶来的二年级大学生，他就是沃纳·海森堡。在演讲后的问题讨论中，海森堡对玻尔的一些观点提出了异议。这位大学生的发言，引起了玻尔的注意。当讨论结束时，玻尔邀请他一道出去散步，并仔细地交谈了量子理论的有关问题。他们在哥廷根郊外谈论了好几个小时，仍各持己见。尽管如此，玻尔诚恳待人的作风深深地打动了海森堡的心。而海森堡的聪明才智也给玻尔留下了深刻的印象，他向海森堡发出了去哥本哈根作学术访问的邀请。海森堡后来回忆说，这是他所能记起的“关于近代原子理论的物理问题和哲学问题的第一次全面彻底的讨论，而且它对我后来的事业肯定起了决定性的作用”。
海森堡一生在理论物理学上作出了重要成就，而他最大的贡献无疑是创建矩阵力学。在这之前，他在关于流体力学、反常塞曼效应、分子模型以及色散理论等方面做了大量研究工作。这些工作为他创立矩阵力学作了准备。尤其是与玻恩的合作，使他感受到建立新量子理论的迫切性。
玻恩原来是研究晶体点阵动力学的，1921年到哥廷根大学任理论物理学教授后开始原子理论的研究工作。他让他的学生学点量子物理并想同索末菲展开竞争。哥廷根的着名数学家希尔伯特主张数学家和物理学家结合起来研究物理学，他和玻恩联合组织了“物质结构”讨论班。此外，在玻恩周围还有各种讨论班，如“初学者讨论班”、“晚上讨论班”、“原子力学Ⅰ编写组”等，学术气氛非常浓。为了繁荣科学，玻恩还常邀请各国着名学者来访讲学。这大大开扩了学生们的眼界。玻恩对学生亲切不拘小节。在课余，他常和学生一起散步、野餐、演奏乐曲。玻恩在他主持的讨论班上鼓励提问和批评。因此，在玻恩周围常聚集着一大批有才能的学生，海森堡就是其中一个。
如果说海森堡在索末菲那里受到关于玻尔理论的严格训练，那么他在玻恩那里更多的是学到对玻尔理论的怀疑。当玻恩学派对玻尔理论的正确性表示怀疑时，索末菲学派还相信只要附加上普朗克、玻尔和索末菲提出的量子条件，牛顿力学还可以解决原子领域的问题。海森堡认为玻恩比波尔更加坚信要有一套完整的数学上统一的量子理论，而不是在牛顿力学、量子条件和光量子假设之间的徘徊与调和。
1922年，玻恩和他当时的助手泡利一起深入讨论了把微扰论应用于原子理论的问题，发展了微扰论能量表示的一般方法。1923年，玻恩和海森堡合作把微扰论用于氦原子，虽然理论结果在定性方面与实验一致，但定量方面差距很大。这使他们坚信，物理学的基础必须进行根本的变革。
1924年，在哥廷根讨论班上玻恩曾强调，把量子论的困难单单归诸辐射与力学体系之间的相互作用是不正确的。他认为力学必须加以改造，必须用某种量子力学来代替才能提供理解原子现象的基础。玻恩甚至在1924年的一篇论文中首次把期待中的新理论称作“量子力学”。这时玻恩对他自己所期望的新理论已有了一些模糊的领悟。而海森堡则找到了描述这种理论的数学方法。
海森堡在哥廷根虽然只是一个有奖学金的研究人员，但实际是玻思的助教。他与玻恩密切合作，力图从符号意义上的力学模型出发，建立一种新的力学。一年后他以一篇题为《关于量子论的形式规律在反常塞曼效应问题上的更改》的论文取得大学授课资格，成为无薪讲师。同年9月，海森堡作为领取“洛克菲勒奖学金”的研究人员来到丹麦的哥本哈根，而他的矩阵力学之类的创造性工作，事实上也是在哥本哈根生根发芽的。
海森堡在哥本哈根主要与荷兰物理学家克拉姆斯一起工作。克拉姆斯从1916年起担任玻尔的助手，在发展量子理论方面帮助玻尔做了不少工作。他多才多艺，不仅会5种外语，而且还会拉大提琴，在工作之余常在海森堡的钢琴伴奏下演奏。而他在学习上又对学生要求得极为严格。1924年初，主要根据当时到哥本哈根来工作的美国物理学家斯莱特提出的思想，玻尔、克拉姆斯和斯莱特一起发表了一种对后来影响较大的理论，亦称BKS理论。这个理论的中心思想是：给每个原子引进一组能产生虚拟辐射场的虚振子，而每一个这种虚振于具有一个跃迁频率(即原子的跃迁频率)。这就把不连续的原子过程与连续的辐射场联系起来了，从而可以利用对应原理，采取类似于经典理论的方法来处理量子论的色散问题。克拉姆斯利用这种思想导出了他的色散公式。
如果说克拉姆斯的色散理论实际上摧毁了电子轨道概念的基础，那么可以说海森堡更倾向于放弃电子轨道模型，用正确的数学公式来表示玻尔的对应原理。他和克拉姆斯一起用玻恩的方法研究色散问题，并合作写了一篇论文《关于原子对辐射的散射》。
1925年4月海森堡回到哥廷根。他想进一步在上述工作的基础上解决氢原子谱线强度问题，但在数学上遇到了很大困难。于是，他转而想从根本上解决问题，即找出一个与经典运动方程对应的，在逻辑上内在一致的电子在氢原子中的运动方程。但根据经典力学，这个方程应当描述电子在原子中运动的轨迹，可是原子太小了，电子轨道既看不见，也摸不着，也就是说是不可观察的。那么，如何从实验上来检验所得方程的正确性呢？
正当海森堡百思不得其解的时候，他得了枯草热病。这是由于某种有毒花粉引起的一种过敏症，需要到海边去治疗。当他在北海的赫尔兰岛上休养时，突然从爱因斯坦创立相对论的过程中得到启发。爱因斯坦认为物体的绝对速度和两个不同地点所发生事件的绝对同时性等概念是没有意义的，因为这些概念在实际上是不可观察的。于是海森堡认为，既然玻尔原理中确定半径和转动周期的电子轨道是不可观察的，同样也没有意义。人们在实验中能观察到的只是光谱线的频率和强度。
于是，海森堡从玻尔对应原理出发，“设法建立起一个理论的量子力学，它与经典力学相类似，而在这种量子力学中，只有可观察量之间的关系出现。”他在玻尔的频率条件和克拉姆斯的色散理论中看到了可以这样做的迹象。根据玻尔的频率条件，可以用电子的特征振幅来表示原子中各电子间的相互作用。运用克拉姆斯的量子色散理论，从经典运动方程出发，可以得出一个仅仅以可观测量为基础的量子力学运动方程。这个方程的解在理论上应当能给出原子系统完全确定的频率和能量值，并且也能给出完全确定的量子论的跃迁几率。
经过几天紧张的计算，他用得出的方程处理了一个较简单的非谐振子的量子力学系统和绕核作圆周运动的电子的情况，都获得了成功。
当他最后算完的时候，已是凌晨三点多钟了。此时他十分兴奋，睡意全无，奔出室外，攀上一座海边的岩塔，一直等到旭日东升。他后来回忆当时的心情时说：“最初，我深为惊奇，我感到，通过原于现象的表面，我正在窥测着一个奇妙的内部世界，而对自然界如此慷慨地层现在我面前的丰富的数学结构，使我感到眼花缭乱。”
海森堡在赫尔兰岛上住了一个多星期，终于写成了《关于运动学和动力学的量子论重新解释》一文。他发现量子力学量与经典力学量的不同之处在于：量子力学不遵守一般乘法的交换律，它们是不可对易的，即AB≠BA。从他所得出的方程出发，可以自然地得出符合量子条件的解，而不必像玻尔那样附加几条假说。他知道，“这个十分明显但又错综复杂的物理学问题，只能通过对数学方法的更透彻的研究来解决”。而他的理论在数学处理上只是处于开始阶段，仅能应用于一些简单的例子。所以，他对自己的论文并没十分的把握，犹豫着不敢立即送去发表。
经过反复思考，海森堡于7月9日把写完的那篇论文寄给他最严格的评论家泡利，并说：
“我冒昧地直接把我的论文手稿寄给您，因为我相信，至少在批判的即否定的方面，它包含了一些真正的物理学。同时我很抱歉，因为我必须要求您在二至三天内把稿寄还我。我必须要么在我留在这里的最后几天内完成它，要么把它付之一炬。”
泡利热情支持海森堡理论，并表示，“我向海森堡的勇敢假定致敬”。正是由于泡利的鼓励和支持，这才使海森堡下定决心，将论文送给他的老师玻恩审阅。
玻恩看到海森堡的论文后，很快就深刻地认识到他的学生这一工作的重大意义。这时由于海森堡又到哥本哈根去了，他就一方面将海森堡具有划时代意义的论文推荐到《物理学记事》杂志发表，另一方面又与学生约尔丹合作，试图在数学上进一步把海森堡的思想发展成一门系统的量子力学理论。
玻恩经过一个星期的苦苦思索，突然想到，如果将玻尔每个定态的能级横写一次，再竖写一次，就会得出一个矩阵。其中，对角位置对应于状态，非对角位置则对应于跃迁。于是，海森堡的那些可观察量就可以用这些列阵来表示，而这些列阵不就是矩阵吗！这种矩阵的运算方法正好与海森堡所得出的运算法则一致。真是“踏破铁鞋无觅处，得来全不费功夫”
，数学家早就为物理学准备好了数学工具，只看哪一位物理学家能捷足先登了。由长期在数学之都哥廷根工作，对数学深感兴趣的玻恩来摘取胜利之果，倒也合情合理，并非偶然。
玻恩为这个发现而激动，他立即和约尔丹投入紧张的计算，只用了几天时间，就写出了一篇论文《关于量子力学》。在这篇论文中，他们阐明了矩阵运算法则，应用对应原理，从经典的哈密顿正则方程出发，把矩阵形式应用到海森堡的理论中，得到了一个相当于海森堡量子条件的矩阵方程。根据这个方程，可以进一步导出能量守恒定律和玻尔的频率定则，并成功地应用到了谐振子和非谐振子的量子力学系统。
次年2月，他们又与海森堡合作，以三人名义共同发表了着名的《关于量子力学Ⅱ》一文，把按海森堡途径发展的量子力学推广到任意多个自由度的体系上，完成了对非简单体系及一大类简单体系的微扰理论，导出了动量和角动量守恒定律、选择定则和强度公式。最后，还把该理论用到黑体空腔的本征振动的统计问题上。
这篇论文在矩阵形式下大大发挥了海森堡的最初想法，终于使矩阵形式的量子力学形成了一个完整的体系。它是以微观客体的粒子图象为基础而建立起来的新力学体系，由于它运用了矩阵数学形式，所以又称为矩阵力学。
不久，泡利首先将这种新力学应用于氢原子光谱，算出了氢原子的定态能值，结果与玻尔的结论完全相符，从而证实了新理论的正确性。接着，物理学家们又用量子力学处理过去许多使人感到困惑的原子问题，也都获得了成功。于是，哥廷根的这个胜利成果很快就在物理学界传播开了。爱因斯坦风趣地称，“海森堡生了一个大量子蛋”。剑桥、柏林、哥本哈根都纷纷邀请海森堡去讲他的新量子力学。
在以后的岁月里，海森堡继续在量子力学的道路上探索，取得了累累硕果。他建立的“测不准关系”成为量子力学的重要原理之一，并因此于1932年荣获诺贝尔物理奖。由于海森堡的上述重大贡献，他被公认为量子力学的创始人之一。
矩阵力学被看作是用定量的关系来代替定性的对应原理的一个成功尝试。在创立这一理论的过程中，海森堡借助了一条重要的方法论原则，即可观察性原则。这个原则要求，在理论上应该抛弃那些实际上不可观测的量，而直接采用可观测的量。
海森堡有幸师从索末菲、玻恩、玻尔这样一些当代第一流的物理学家。他后来回忆说，他从索末菲那里学了物理学，从玻恩那里学了数学，从玻尔那里学了哲学。但他决不盲从，他敢于怀疑，敢于批判，常常向老师提出尖锐的问题，与他们展开深刻的讨论。他的名言是：“科学扎根于讨论。”在解决新的物理学问题时，他敢于创新。他创立矩阵力学，作出科学上的伟大贡献，正是源于这种科学探索精神。他曾说：“在每一个崭新的认识阶段，我们永远应该以哥伦布为榜样，他勇于离开他已熟悉的世界，怀着近乎狂热的希望到大洋彼岸找到了新大陆。”