唐代发明了火药，但在军事上应用的记录还不多。由于几个政权之间的对立和时常可能发生战争的状态，北宋政权下的一些军官开始在火药的研究和应用上作出努力，这一伟大发明完全由炼丹家的事业变成了兵器工匠的事业。因而，火药已不再是炼丹炉中的奇观，而成了战场上杀伤人的新武器。
根据《宋史·兵志》记载，北宋早期先后有兵部令使冯继升于970年、神卫水军队长唐福于1000年、冀州团练使石普于1002年分别创造并推广了火箭、火球、火蒺藜等火药武器，这主要是利用了火药的燃烧性能。1002年，另一位军官刘永锡曾制火炮以献朝廷。北宋末年，火器专家们制造出了陶制和铁制的“震天雷”，这是利用火药爆炸性能而制造的，由绳索或抛射机械来发射，爆炸时其声如雷，靠喷发的火焰和弹片杀伤敌人。1126年，宋朝的大将姚仲友和李纲都曾用火药武器抗金。另外一种直接利用火药抛射性能的武器是突火枪。据汤王寿《德安守御录》记载，1132年抵御李横的德安守军已经“以火炮药造下长竹杆火枪二十余条”，后改进为突火枪。这是一种管形火器，据《宋史·兵志·器甲之制》记，突火枪“以巨竹为筒，内安子窠，如烧放，焰绝石子窠发出，如炮声，远闻百五十余步”。据《金史·赤盏合喜传》记，公元1232年攻金的蒙古大兵惟畏震天雷和突火枪二物。可见金人很快就有了自己的火药武器，并很快在战场上应用了它们。如果说震天雷意味着炸弹的发明，那么突火枪便是步枪和大炮的前身了。
火器的发明是兵器史上的一个转折点。以往的武器——冷兵器的战争仅仅是机械性力量和人的勇力与智谋的厮杀，而火器则第一次把化学力量和单兵战斗结合了起来。火器一经应用到战争中便体现出了强大的威力。北宋对火器的应用由于规模不大，仅仅起了在关键性战役中威慑敌人的作用，但在南宋和金的战争中，双方使用火器重创对方的记录多了起来。金国在同蒙古的战争中曾依赖震天雷来坚守城池，而蒙古人在俘虏了金国的工匠之后，也掌握了火器，并且在西征时把火药传到了阿拉伯世界和欧洲。中国的炼丹家们开始并没有想到炼制长生仙丹却得到了杀生的武器，这与他们追求的理想并不相符。这种事在技术史上是常有的。当火药作为一种新的战争武器被用于战场，并给战争带来更可怕的杀伤力之后，中国炼丹家们谋求长生不老之丹的理想热情开始消退。他们逐渐放弃了这一不实际的追求，开始注重内省式的修炼，希望以此来达到延年益寿的目的。
宋（北宋和南宋）和金在世界上最先使用火器，但这两个国家的政权最终并没能被这种新式武器所拯救。从纯军事的观点看，最初的火器只能部分地改变军队的装备，数量不多，质量不高，并没有引起一场军事技术的彻底变革，因而只能局部地影响战争的胜负。当这两个国家国势衰落的趋势远大于火器进步的速度时，这种新武器便成了改朝换代时的历史爆竹。而对于中国老百姓来说，火药最好的用场则是节日时的爆竹。至南宋时，杭州民间已有许多买烟火者（《武林旧事·小经纪》），在北方金国治区则有人自治火药狩猎，说明火药的民间应用也在发展。
在中国，火药并没有使社会生活和历史发生真正的改变，火药主要是由官府控制的工场生产的，它被用来装备朝廷的军队。北宋的火药工场称“火药窑子作”，列朝廷军器工场之首。当火药传到西欧时，那里的市民阶级便利用这种新的武器同封建阶级的骑士作战，最后把这个阶级炸得粉碎，资产阶级开始登上历史舞台。
无论如何，火药的发明开始了军事方面的一场具有历史意义的技术和战术革命。各种各样的火器被制造出来。火器的强大威力使它首先成为冷兵器的补充，从而改变了军队的编制、战法和整个指挥体系。