在探索原子奥秘的征途中，发现电子是一大胜利，发现原子核又是一大胜利，它们都是物理学发展中的里程碑。只有在发现了电子和原子核之后，才有可能建立正确的原子理论，对光谱作出合理的解释。
原子核的存在是卢瑟福在多年研究射线的基础上，经过周密分析和计算后作出理论判断的。
卢瑟福原是新西兰人。1895年到英国剑桥大学卡文迪什实验室当研究生。他的导师就是电子的发现者J．J．汤姆生。他和汤姆生一起，研究X射线对空气的游离作用。贝克勒尔发现铀辐射的消息促使他转向铀辐射。1898年，为了比较X线和轴辐射在穿透本领上的差别，他用铝片挡在铀辐射的面前，观测经铝片吸收后的辐射强度。就在这个实验中，卢瑟福发现铀辐射有两种不同的成分，穿透本领相差悬殊。他把容易吸收的成分叫做a射线，穿透本领强的叫做β射线。
不久，贝克勒尔证明β射线带负电，在磁场中会受偏折，后来又确定β射线就是高速电子流，和阴极射线没有本质区别。
1900年，法国物理学家维拉德发现，在铀辐射中还有一种成分，比β射线穿透本领强得多，但却不受磁场偏转。他把这种成分叫做丁射线。后来也搞清楚了，它是比X射线频率更高的一种电磁辐射。
对于卢瑟福来说，他要研究的是射线与物质的相互作用，他意识到射线要有重要价值，因为它比其他射线更易于吸收。在发现这些射线之后，他就集中精力搞清射线的性质和来源。为此，他做了大量实验，其中关键的有两个：
1.电磁偏转实验。放射性物质（镭）搁在容器的底部，射线由下而上，经过平行隔板，穿过铝箔进入金箔验电器，造成空气电离，使金箔验电器原来的偏转减小，偏转减小的程度代表了辐射的强度。与此同时，氢气由上而下，穿过铝箔和隔板，以驱赶镭释放的放射性气体（氡）。
然后，他在平行隔板区域内垂直纸面加磁场，果然，电离减小了，说明射线在磁场中也有偏转。为了判定射线所带电荷的正负，他在隔板上加了一排小铜条把通道挡去一半，同时改变磁场的方向，直到找到。射线不能通过的条件。从这个实验，卢瑟福判定射线带的是正电荷，和阴极射线不同，a射线由带正电荷的粒子组成的。
卢瑟福进一步又在隔板间加电压，使a射线在电场的作用下通过隔板，求出不能通过隔板的条件。根据电场和磁场的截止值，求出了a射线的速度与荷质比。
2．光谱实验。从上面测得的荷质比，初步得知a粒子与原子相近。还有迹象表明，a粒子可能就是带电的氦原子。
但利学论断不能凭猜想，必须有真凭实据。卢瑟福想到用光谱方法，他又设计了一个巧妙的实验。
a射线管是由极薄（仅0.01毫米厚）的玻璃做成，内封放射性气体氡，发出的a粒子可以穿过薄玻璃壁，进入外层玻璃管了，被收集在管内，以气体形态储存起来。大约过了两天，a粒子收集足够多以后，将水银提升，把它们压缩到放电管中。结果，从放电得到的光谱显示氦的黄线，证明果真是氦。
就这样，卢瑟福彻底查清了a射线的底细，为阐明放射性规律和利用a射线探测物质奥秘作好了必要准备。
然而卢瑟福并没有到此止步，他和他的合作者继续探讨a射线与物质的相互作用。就在用a射线打击金属原子时，他们作出了原子物理实验中最重要的一项发现，发现了原子核。
卢瑟福和助手盖革继续进行a粒子散射实验时，将一根长约两米的玻璃管，抽成真空，放射源A置于一端，a粒子打到金箔D后散射到荧光屏E上。荧光屏每接到一个a粒子，就会发出一次闪烁，观察者用肉眼经显微镜读取闪烁数。然后，沿螺旋测微计移动显微镜读取不同位置的闪烁，将统计结果绘成曲线图。从曲线的坐标可以看出，即使经过两片金箔的散射，打到荧光屏的位置所离开中心的距离最大也不过是10毫米，计算下来，偏角不超过1°。
为了比较金箔与铝箔对a粒子的散射作用，盖革和学生马斯登继续进行a散射实验。然而，实验的进行并不如人意，得不到尖锐的a射线束，计数很难精确，重复性甚差。于是他们把“枪管”加长到4米，以为管子长了，准确性可以改善。实际上仍然很糟。他们哪知道，一种意想不到的现象--大角度散射正在干扰他们的实验，有些a粒子经器壁反射也会使荧光屏发出闪光。
盖革和马斯登正在束手无策之际，卢瑟福到实验室巡视来了。对于他们的困境，卢瑟福沉思片刻，向他们建议说：“你们是不是试试让a粒子从金属表面直接反射，看看有什么论是，入射的a粒子每八千个有一个要反射回来。”
从汤姆生的正电球原子模型出发，也可对大角度散射进行解释，不过估算的几率不大于1／103500，这是一个极其微小的数字，而实际所得却为1／8000。
卢瑟福为此苦思了很长的时间，到1910年底，他终于作出决断：只有假设正电球的直径远小于原子作用球的直径，才能满足粒子穿越单个原子时产生大角度偏折的要求。这个正电球占有原子绝大部分质量，处于原子的中心，这就是后来人们普遍称呼的原子核。
