在我国西汉时期的道家典籍《淮南子》(公元前150年)中就有关于硫磺的记载。成书于公元前后的《神农本草经》，将硫磺和硝石作为可治病的上品药物列了出来。西汉时淳于意还曾用硝石治疗王美人的疾病。炼丹家们又在他们长期的炼丹实践中将硝石、硫磺、雄黄和松脂、油脂、木炭等材料不断地混合、煅烧，这使火药的发明成为必然。
硝石，古人又写作消石，意思是它是一种能够消化各种石头的东西。隋唐时期，炼丹家们已经认识了它的焰色反应。例如，二部叫做《九鼎丹经决》的丹道经典就记载说：
“烧之紫青烟起，仍成灰，不沸无汁者是硝石也。”说硝石燃烧时的火焰呈现出紫青色，并把这一点作为硝石与朴硝、芒硝的重要区别之点。“不沸”而又“成灰”，表明其中的硝酐具有较强的氧化作用，这是它跟硫酸盐、盐酸盐的重大区别，燃烧时出现的紫青色火焰，是钾离子的焰色。从现在的化学知识来看，用这两条来辨认硝石(KNO3)，是十分科学的。
炼丹家们还对硫磺的各种特性进行了“实验”观察和研究，他们发现，硫不仅能和铜铁起化合反应，而且能制服神奇的水银(汞)。硫的化学性质非常活泼，很容易着火，跟空气中的氧起化合反应，这使人们很难制服它。古人为了驯服它这种暴烈的性格，就尝试着对硫磺进行“伏火”处理。
“伏火”原本也是一种疗除疾病的方法，炼丹家们根据中医理论中的阴阳、五行和脏象经络之说，认为硝石和硫磺都是阳物(因为它们都能着火)，会有阳火之毒，能败人五脏。
为了使人服食之后不仅没有任何毒性，而且能滋润五脏，使人体内五脏之气和合混融，助益长寿，就必须设法制伏火毒，这就是“伏火”。“伏火”的具体方法也很简单，就是“以毒攻毒”，用火烧一下，火毒也就自然被消除。当然也还有其他的伏火法，而只有一种伏火法对火药的发明起到了决定性的作用。
关于黑火药配方和燃烧的最早记载，出自唐代初年着名中医、“药王”、养生家兼炼丹家孙思邈所着的《丹经内伏硫磺法》一书。这也是世界上最早的轻工业火药原始配方的记载。它描述了对硫磺的伏火方法：把沙罐或销银锅埋进土里，罐口或锅口与地面平，周围要用土夯实，把硝、硫各二两放进去。然后用火烧皂角子三杖，不要烧成灰，而烧成炭就行，再一个个放入罐或锅中。这时，刚刚烧过的皂角子带着余火与硝石和硫磺接触，硝和硫就会自动燃烧起来。等待焰烟冒完之后，用木炭堆到罐口上加热，就得到了一副黑火药的配方。这里，黑火药的三种主要成分都已齐备：硝、硫和炭。只因为炭没有研碎，并与硝、硫充分均匀混合，因此反应不够剧烈，加之“伏火”的目的在于防止和避免发生剧烈的燃烧和爆炸，一些措施也只使反应出现燃后冒出紫青焰火的结果。后来，人们逐渐从避免爆炸到有意识地利用爆炸，摸索出各种黑火药的配方，形成了一个独具特色的黑火药体系。
在孙思邈之后，唐代一位叫郑思远的丹家撰写了一部《元真妙道要略》的丹道典籍，记载着这样的一种火药制法：
“以硫磺、雄黄合硝石并蜜烧之。”就是用硝石、硫磺、雄黄和蜂蜜在一起烧炼。因为蜜作为有机物，含有丰富的碳元素，它又是半液体的流质物，能够和硝石、硫磺充分均匀地混合，烧炼时突然起火爆炸。“焰起烧手面及烬屋舍。”烈焰猛烈冲起来，烧坏了人的双手和面部，并冲上屋顶，烧毁房梁。这表明，充分均匀混合的硝、硫和炭能够发生剧烈的爆炸反应。至此，黑火药的典型配方和它的巨大威力就被中国人掌握了。
其实，在炼丹炉中发现这种爆炸现象，要比这一发明和发现的记载早得多。例如《太平广记》一书就记载着，隋朝初年，一个叫杜子春的人去拜访一位炼丹老人，半夜时被两声巨响惊醒，看到炼丹炉有“紫烟穿屋上”，房屋顿时着起火来。这很可能是炼丹时配制药方，无意识地造成火药配方，不小心引起的燃爆现象。
火药就这样诞生了，它是我国古代人民在指南针、造纸术和雕版印刷术的发明之后，对人类文明所做出的又一重大贡献。“四大发明”至此已基本完成。
