美国科罗拉多州奥陶纪淡水沉积岩中发现的具有骨质结构的鳞片是已知最早的脊椎动物化石，它说明在遥远的奥陶纪，地球上的河流与湖泊之中，曾生活着身上有鳞甲的脊椎动物。
英格兰志留纪中期的海相沉积中发现过另一些脊椎动物化石，即莫氏鱼和花鳞鱼。莫氏鱼可能是一种非常原始的无颌脊椎动物，其外形可能接近于生活在现代的无颌类七鳃鳗的祖先。它是身体细长的小型管状动物，前端有一个吸盘状的口，眼的后面、头部两侧各有一排圆形的鳃孔；尾鳍下叶较长，上叶较短而高，此外可能还有保持身体平衡的侧鳍褶和一条长的背鳍。
到了泥盆纪，早期的脊椎动物达到了繁盛时期，大量的泥盆纪脊椎动物化石在世界各地都有发现。这些最早的脊椎动物属于无颌纲，统称为甲胄鱼类。它们没有上下颌骨，作为取食器官的口不能有效地张合，因此它们获取广泛食物资源的能力就很受限制。它们没有真正的偶鳍，也没有骨质的中轴骨骼。有代表性的甲胄鱼体表具有发育较好的由骨板或鳞甲组成的甲胄，这便是“甲胄鱼”这一名称的由来。
不同类群的甲胄鱼彼此之间差异很大。很可能，这些不同类群在其有化石记录的时代之前，已经各自经历了长期的进化过程。根据这些差异，可以把包括现代类型在内的无颌类分为以下两个亚纲及几个目：单鼻孔亚纲：具有单一的鼻孔，较多的鳃孔和骨质的头盾。分为以下4个目：头甲鱼目、盔甲鱼目、缺甲鱼目和圆口目。
双鼻孔亚纲：具有一对内鼻孔，外鼻孔不存在；形态多样，甲片复杂。
分为鳍甲目、盾鳞目和多鳃鱼目。