通常所说的冷兵器，是指用人力和机械力操持的直接用于斩击和刺杀的武器，如刀、矛、剑、弓箭等。冷兵器是人类社会发展到一定阶段才出现的，它经历了石兵器、青铜兵器和钢铁兵器三个发展阶段。
石兵器
我国古代的冷兵器，最初是由原始社会晚期的生产工具发展演变而来的。那时候，各氏族、各部落之间因纠纷而引起的武力冲突日渐增多，规模也不断扩大，终于发展成部落之间的战争。在这种战争中，单纯地利用带着锋刃的生产工具已经不能满足需要，于是就有人用石、骨、角、木、竹等材料，仿照动物的角、爪、鸟喙等形状，采用刮削、磨琢等方法，制成最早的兵器，或者说是胚胎形的兵器。它们以石制的为多，所以称作石兵器。这类制品出土的不少，主要有石戈、石矛、石斧、石铲、石镞、石匕首、骨制标枪头等，有的还把石刀嵌入骨制的长柄中。这些石兵器，大致经过选材、打制、磨琢、钻孔、穿槽等工序制作而成。
石器时代的兵器虽然制作粗陋，但是已经形成了冷兵器的基本类型，如：长杆格斗兵器戈、矛，短柄卫体兵器刀、匕首，射远兵器石镞等。这些石兵器的制作虽因年代久远没有确切记载，但是在先秦、西汉的一些典籍中也有所反映。如《世本·作篇》说“蚩尤作兵”，《管子·地数篇》称蚩尤之时已有矛、戟、芮戈（一种短戈）之类的武器。《越绝书·记宝剑》留下了神农氏、赫胥氏“以石为兵”、黄帝时“以玉为兵”的故事等等。它们和出土实物相对照，在制作年代上是大致相吻合的。石兵器虽然制作简单，但是它们却为第一代金属兵器——青铜兵器的创制开了先河。
青铜兵器
我们的祖先在新石器时代晚期，已经初步掌握了冶铜技术，甘肃马家窑遗址出土的一件锡青铜刃小刀表明，我国大约在公元前2740年前后，已经能够使用一些锡青铜器具了。作为装备军队的青铜兵器，在公元前二十一世纪建立的夏王朝已经问世。到了商代，随着青铜冶铸技术的提高，青铜兵器得到了进一步的发展，制品有长杆格斗兵器戈、矛、斧，卫体兵器短柄刀、剑，射远的复合兵器弓箭，防护装具青铜胄、皮甲、盾等。商代以后，铜的采掘和青铜冶铸业得到比较大的发展。《考工记》中关于“六齐”的论述，已经总结出春秋时期一些青铜兵器中铜和锡的组配比例，其中斧斤是五比一，戈戟是四比一，大刃是三比一，削杀矢是五比二。有了这些组配比例，就能保证所制各种兵器适当的坚韧度，满足作战的需要。此外，《考工记》的“冶氏”、“桃氏”、“函人”、“庐人”、“弓人”等条，还记录了杀矢、剑、甲、戈戟、矛、弓等一些兵器的材料选择、尺寸大小、形制构造和规范等内容，表明当时制造的兵器已经向标准化迈出了最初的一步。
春秋战国时期还出现了青铜复合剑的制造技术，这种剑的脊部和刃部分别用含锡量不同的青铜铸成。铸造时，先铸造剑柄和剑脊，后铸造剑刃，再把剑刃同剑脊的榫部结合成一体。经过对这种剑的实物测定，脊部的青铜含锡量是百分之十，刃部的青铜含锡量是百分之二十。含锡量比较低的脊部韧性比较大，不易折断，便于久用。含铜量比较高的刃部坚而刚，利于刺杀。这种脊韧刃坚、刚柔相济的复合剑，既有比较高的刺杀力，又经久耐用，是青铜兵器制造技术提高的一个重要标志。同时，铜制的射远兵器弩，也在实践中得到了广泛的使用。
钢铁兵器
我国虽然在春秋晚期才进入铁器时代，但是河北藁城出土的铁刃铜钺说明，我们的祖先在商代，已经能够使用陨铁制成比较锋利的钺刃，以后再在浇铸青铜钺身时合在一起，制成铁刃铜钺。出土实物还表明，我国在春秋晚期，已经使用人工制造的铁器。到战国晚期，已经比较好地掌握了块炼铁固态渗碳炼钢技术，炼成质地比较好的钢，为制造钢铁兵器提供了原材料。这时，南方的楚国、北方的燕国和三晋地区，已经使用剑、矛、戟等钢铁兵器和用于防护的铁片兜鍪。到了西汉，由于淬火技术的普遍推广，钢铁兵器的使用越来越普遍，军队装备钢铁兵器的比例不断上升。考古界在西安市汉都长安的发掘中，发现了一座建于汉高祖时的兵器库，内藏铁制的刀、剑、矛、戟和大量箭镞，数量远远超过了青铜兵器，生动地反映了铜兵器和钢铁兵器的消长情况。
从东汉到唐宋，钢铁兵器进入全面发展的时期。坚韧锋利的各种钢铁兵器层出不穷。步兵使用刀、盾作战，具有攻防兼备的作用。骑兵使用双刃马，可直透敌兵的铠甲。射远兵器弩，继西汉出现带刻度的望山后，又在东汉出现了腰开弩；三国时期的诸葛亮（181—234）创制了连弩，使蜀军的射远兵器得到了很大改善；到唐代，射远的强弩已经发展成为重型的床弩，杀伤力大大增强。晋代创制的马蹬，得到了普遍的推广和使用，提高了骑兵的骑术和战斗力。官兵披着的铠甲五光十色，唐代的制式铠甲已多达十三种，被称作“唐十三甲”。这一时期钢铁兵器的发展，不仅表现在制造的标准化方面，而且也表现在军队装备的制式化方面。据《新唐书·兵志》记载，当时一名士兵的基本装备是：“弓一、矢三十，胡禄、横刀……皆一。”唐河东节度使都虞侯李筌在《神机制敌太白阴经·部署篇》中说，当时一个军编有12500人。又在这部书的《器械篇》中记载了一个军的全部装备，共有弓12500张（配箭375000支），弩2500张（配箭2500万支），枪12500支，佩刀10000把，陌刀2500把，棓2500杆，甲7500领，战袍500领，牛皮牌2500面。从上述装备的数量可知，刀、枪、弓、铠甲和战袍是士兵必备的装备，平均每人1件，每张弓配箭30支；弩每5人1张，配箭100支；牛皮牌是遮挡型防护装具。就全军装备的兵器来说，种类齐全，用途多样，有格斗兵器、卫体兵器、射远兵器和防护装具，具有攻防兼备、轻重结合、长短互补的特点。如果全军出征，各种兵器配合使用，便可发挥综合杀敌的作用。
北宋仁宗庆历四年（公元1044年）刊印的《武经总要》，全面记载了北宋初年制造和使用的钢铁兵器，有长杆刀枪各7种，短柄刀剑3种，专用枪9种，兵器和工具合一的5种，斧和叉各一种，鞭锏等特种兵器12种，防护装具4种，护体甲胄五种，马甲一种，弓四种，箭7种，弓箭装具五种，弩六种，复合式床子弩8种。它们实际上是集宋代以前发展的各种冷兵器的大成。人们常用刀、枪、剑、戟、斧、钺、钩、叉、镋、棍、槊、棒、鞭、锏、锤、挝、拐子、流星等18般兵器来形容中国古代兵器之多，但是实际上中国古代兵器远远不止这18种，说它多得数不清是不算夸大的。宋代以后，钢铁兵器虽然仍在发展，但是它们的战斗作用同逐渐发展的火器相比，便退居次要地位。