火药是中国的炼丹家们在无意中发明的，用“无心插柳柳成荫”形容火药的发明可谓恰如其分。
人们对火药的认识，是从对构成火药基本成分的硝石和硫黄各自药用价值的认识开始的。出现于秦汉时期的《神农本草经》就有硝石能炼药治病，长期服用，可体轻神爽，快乐如神仙的记载，从而导致炼丹家们萌生了用硝石炼制长生不老药的动机。而这种对硝石药物特性的自觉研究，却不自觉地成了火药发明的动因。
炼丹家们顽强的实践，使他们除在发展古代医学、药物学和化学、炼丹术、冶炼术等方面做出了贡献外，还使他们从炼丹时发生的意外灾祸中发现了硝石和硫黄混合物的燃爆现象，启示人们配制出最初的火药。然而，由于炼丹家们炼丹的目的是求得制成长生不老药，加上历史条件和知识的局限性，他们在炼丹的试验中，往往只留心于对其药料的配制上，而对火药这一重大发明不但没有引起足够的重视，反而将其视为是必须防止“走火入魔”的戒拒之物。如公元8世纪成书的《真元妙道要略》中就谆谆告诫人们，在炼丹中要防止将硝、硫、炭合炼，以免造成火灾：“有以硫黄、雄黄合硝石并蜜烧之，焰起烧手、面及烬屋舍者。”
这种硝、硫、炭三者合烧后易燃易爆的特性，长期被炼丹家趋避。与之相反，军事家们则从实践需要出发，专门配制这种合烧时会产生燃爆的药物，并制成具有焚烧和杀伤作用的火器。于是，火药和早期的火器诞生了。