通过实验，卢瑟福掌握了α粒子的本质、性质和作用。α射线是一种吸收率高、穿透力弱的粒子流，在磁场或电场中不会产生偏斜，卢瑟福称它为“未被一个磁场或电场产生出可鉴别的偏斜的射线”。形成射线的α粒子是以很大速度抛射的电荷物质，具有较高的能量，确切地说，α粒子是带电的氦原子。就是这样，经过繁重而艰巨的劳动，经过长年不懈的努力，卢瑟福对α射线的性质得到了全面而准确的了解，并确认α射线在放射性中所起的作用是非常重要的。于是，他选择了α射线这一关键性的武器来揭开原子的内在奥秘。
在多年的α粒子性质的探测实验中，卢瑟福不止一次地发现α射线被物质阻滞和散射的问题。在1904年～1905年的许多实验中，让α射线通过不同厚度的空气和金箔后，α射线的速度会渐渐地慢下来，并且在磁场中的偏斜的曲率半径不是变大而是变小了，而且他还发现了α射线通过空气的谱线较宽并缺乏明显界限。所有这些新出现的问题都不能不引起卢瑟福的思考，他准备做新的实验来解决这些问题。
几年来，卢瑟福和他的助手盖革一直在不停地做着一连串的关于α射线的实验。这次，他们用多层厚为00031毫米的铝箔作为α射线的靶，用α射线对它进行轰击，他们边轰击，边渐渐地增加铝箔的厚度，当加到12层时，α射线的速度为无铝箔时的速度V0的064倍，这时，α粒子的能量相当于原有能量的41%。他们继续实验，继续研究，结果又发现，当α粒子速度降至064V0时，α粒子便停止了使气体离子化，也就是说，α射线的速度为原始速度的064倍这个速度值是α射线使气体离子化的临界速度，也是α粒子能够打入原子的最低临界速度。
接着，卢瑟福对盖革说：“换一下靶子再试试看。”盖革按着他的指示，用云母将铝箔换下来，然后让射线通过云母，从测量结果他们发现，由于散射，α射线产生了谱带宽度，α射线从它们的径迹约偏斜2°。这就是他们在实验中发现的α射线的小角散射现象。他们断定：将有一些α射线通过大得多的角度偏斜是完全可能的。这样，卢瑟福和他的助手们不但发现了用云母作靶的α射线的小角散射现象，同时也认识到α粒子在临界速度以上时能打入原子内部，并能引起α射线的散射，散射的结果将引起原子内电场的反应。所以，我们可以通过散射的情况和原子内电场的反应来探索原子的内部结构。对，解决问题的思考就是这样！
卢瑟福和他的助手们信心百倍地工作着，他们断定：较大的散射角完全可能存在，问题就在于能否测量到。
再创奇迹
促使卢瑟福进入α射线大角散射实验的直接原因是盖革在实验中发现了α射线的反常散射现象。
卢瑟福到曼彻斯特大学工作后，在盖革的帮助下，为了计数α粒子，一举研制成功了用盖革的名字命名的计数器，这是盖革与卢瑟福的首次成功的合作。盖革曾于1906年在德国埃朗根大学取得哲学博士学位，他的学位论文是关于气体导电方面的。不久，到曼彻斯特后，他与卢瑟福开始了很有成效的合作研究。由于开始时采用的计数器触发管和计数室的长度不合适，云母片和计数室中气体分子使α射线产生了散射现象，影响了计数工作。这使他们认识到散射现象的消除对研制计数器十分重要。这就使盖革在计数实验还没完成时，转向α射线的散射问题。
于是，盖革又开始了α射线的散射实验。在一次实验中，他发现用α粒子轰击某原子时，出现“径迹急转弯”，这是α射线反常散射的一个征兆。他还发现散射角在很大程度上取决于靶材料的原子量，散射角与材料的厚度和材料的原子量成正比例，与α粒子速度成反比。这样，卢瑟福和盖革决定采用原子量大的金再做散射实验。
19世纪末20世纪初，科学家们用于研究放射性的仪器大都很简陋，不外乎就是验电器、平行板电容器和手摇真空泵，像限静电计被认为是最高级的电测仪器。据说，当年金箔、悬丝和火漆就是实验室必备的基本器材。在记录方面，照相术起了很大作用，但是底片记录的是长时间的统计效果，不利于分析。到了1908年，开始发明了一种闪烁镜方法，用以观测α粒子。
这个闪烁镜实际上是一小块硫化锌屏幕，α粒子打到它上面，会发出微弱的闪光，实验者用显微镜对准硫化锌屏，一个一个地记数，再移动显微镜的位置，分别读取不同位置的闪烁数，就可以对α粒子的分布作出精确统计。闪烁计数法虽然是其他方法所不能比拟的，但是闪烁法要求观测者眼睛始终盯在闪光屏上，全神贯注，一个不漏地记数。在整个实验过程中都要守在暗室中，精神十分紧张。连续工作几个小时，就会头昏眼花，劳累不堪。就是在这样艰苦的条件下，卢瑟福和他的助手们，不顾自己的劳累辛苦，用闪烁读数的方法，靠一个一个计数，作出了发现原子核的伟大贡献。
盖革研究α粒子散射的实验本来是用铝箔放在α粒子的途中起散射作用的，后来发现金箔的效果更好，就促使他系统地研究起各种不同的物质对α射线的散射作用。
有一天，卢瑟福来到他们的实验室，了解他们工作的进展情况，盖革对卢瑟福说：“先生，马斯登已经来了一段时间了，是否应该派给他一些工作？”卢瑟福回答说：“我也正在想这个问题，这样吧，叫他做一个α粒子从金属表面直接反射的实验，去找碰回头的α粒子。我可以告诉你结论，不会有碰回来的α粒子的，应该很容易用实验证实。”
马斯登在盖革的帮助下，认真地进行观测。他们的装置非常简单，锥形玻璃管内充满镭射气作为α射线源，管口用云母片封好，α粒子可以由此穿出，硫化锌闪烁屏所放的位置只有α粒子经反射金属片时才能打到屏上，否则无法直接打到。出乎他们意料的是，当他们把反射金属片放在管口1厘米处，竟立即观察到了闪烁。这使盖革和马斯登非常兴奋，他们对卢瑟福说：“我们找到了碰回来的α粒子！”
这个结果使卢瑟福非常惊讶，因为按照当时一般所接受的汤姆逊模型，正电物质分布于整个原子中，对于能量相当高的α粒子而言是相当“松软”，因此不应当产生大角度的偏转。汤姆逊本人也作过估算，在他的模型中，一次的碰撞所能产生的偏转角的数量级仅约1°～2°度。实验的结果确实是绝大多数的α粒子仅偏转了1°～2°度，那么对大于90°的偏转，甚至碰回头的（偏转180°）的α粒子，又作何解释呢？当时一般所接受的解释是有些α粒子经过多次的碰撞，始终往一个方向上偏离，最后造成了大角度的偏离，这种概率是很小的，而在实验上测得大角度偏转的α粒子也很少，所以这种解释也大体被接受。但卢瑟福对这种解释很不放心，他让盖革和马斯登继续做精确的定量实验。
1909年3月的一天，盖革和马斯登把镭的衰变物沉淀在一小板上，让它放射的α射线经金箔反射到硫化锌荧光屏上。金箔对α粒子的阻止力相当于2毫米厚的空气时，有一半的入射α粒子被反射，当采用1平方厘米的铂箔作为反射物时，统计反射α粒子的数目，α源的发射总数可根据镭的衰变物的剂量折算。经过比较，他们得出结论，入射的α粒子中，每8000个有一个要反射回来。
当盖革和马斯登把这个数字报告给他们的老师时，伟大的实验物理学家卢瑟福先生感到非常惊讶。后来他提到这件事时说：“这是我一生中最不可思议的事件。这就像您对着卷烟纸射出一颗15英寸的炮弹，却被反弹回来一样不可思议。”但这毕竟是事实，千真万确的事实！
不由得卢瑟福不去思考。
多次碰撞理论可以解释小角度散射或偶尔的大角度散射。但卢瑟福做了一下估算，对于盖革他们实验中金箔的厚度而言，每进来1035000个α粒子，大约会有一个α粒子被碰回来，而实验中测得的结果却大约为8000个中就有一个被碰回来，这就是说，α粒子大角度偏转的概率远大于汤姆逊模型所预测的。按照汤姆逊模型，无论是极轻的电子，还是均匀分布的正电荷，都不足以把α粒子反弹回去。卢瑟福为此苦思了很长时间，并深深感到α粒子的大角散射实验说明汤姆逊的原子模型是错误的，真正的原子需要有一个新的模型。
伟大理论的诞生
1910年，卢瑟福开始把散射实验事实与新的原子模型联系起来。他想到了被人忽视的土星模型，如果原子中的正电物质是集中在很小的区域内，那么对α粒子而言形成较“硬”的散射中心，也许能在一次的碰撞中使α粒子产生大角度的偏转。
于是，他设想了一个原子结构模型：原子中有一个体积很小、质量很大、对正电荷有很强偏转能力的核，核外则是一个很大的空间（相对于原子核直径），核的体积很小，但却几乎集中了原子的全部质量；电子很轻、很小，带负电，它们分布在原子核外的空间里结核运动，原子仿佛是一个小太阳系。
卢瑟福的这一伟大设想震惊了世界。
原子核就这样被发现了，起初人们并没有直接看到它，也没有直接测出核的直径，量出核的质量，判定核的电荷。只是靠了α粒子的撞击，从撞击的效果得到了核存在的信息。卢瑟福并没有停留在假想和猜测的水平上，他带领助手们一次又一次地进一步实验，从测量的数据可以准确地推算出核的直径，核的质量和核的电荷。
卢瑟福就是这样，用的是最简陋的设备和直观的方法，却获得了最宝贵的来自微观世界的重要知识。他的核式结构为原子物理学和核物理学的发展奠定了最重要的基础。