了解香水的历史，必须首先了解香料的历史。在东方，人们认为香料发祥于帕米尔高原，而在西方，则认为公元前20～18世纪的古埃及为香料发祥地。古代的香料基本是固态的，既有白檀、肉桂、丁香等香树，也有乳香、甘松、没药等树脂以及麝香、海狸香等动物分泌物所形成的。焚烧香料是宗教仪式的一部分，古代人认为上升的薰香烟雾中凝聚着祈祷，同时还能消除动物供品的异味。在饮料中加入香料不仅能够添香，还能防止变质，祭祀用的酒由于加入香料会大大增加香味。另外，人们在向神叩拜前，还要在身上涂上香料，以净化身心。
除了焚香，古埃及人还掌握了从指甲花中提取香料的方法。从古埃及历经巴比伦王朝、亚述王朝，进入希腊时期，人们经常在生活中将香油和带有香味的水作香料使用，但这仅仅是富裕阶层的奢侈品。香油是把香花掺在兽脂中，用吸附的方法制造的，一般在沐浴后涂在身上。在古希腊，人们在脸部和胸部抹棕榈油，在眉毛和头发上擦花薄荷，喉咙与膝盖处涂麝香草的浸液，手上用薄荷，小腿和脚上则涂满没药。在各种香花的浸液中，蔷薇香型最受欢迎。在罗马尼禄时代，香料已成为极大的消费品，以至最后只能发布限制消费香料的法令。罗马帝国崩溃后，香料除祭祀外，基本禁用。后来，阿拉伯人发明了从花的浸出物中析出液体的方法，开始向世界各地输出有名的戈雷香水。中世纪，十字军的兵士们把在欧洲已被废弃的香料再度带回祖国。到14世纪，流行的香型已变为薰衣草和堇菜。
中世纪，教堂和修道院已能制造香水。15世纪末，意大利已广泛使用香水，16世纪的意大利市场上，出现了带有浓烈的动物香味及杏红花香味的手套，并于不久后流传到法国和英国。被称为“现代香水之父”的匈牙利香水，是在16世纪问世的，极受英国伊丽莎白王室的青睐。17世纪时，法国的红衣主教马萨兰也常浑身涂满香水。
18世纪前后，出现了酒精、香油混成的香水，詹·玛丽·荷莉娜香水店，可称为专门出售酒精香水的鼻祖。这时的男女老少，都对香水表现出高度的热情，因而谓之“香水的时代”。路易十五的宫廷被称为“香宫廷”，使用香水的习俗从宫廷流传至市民阶层，使整个巴黎变成了“香都”。路易十六的皇后玛丽·安托万内特喜欢以堇菜、蔷薇为主的柔和香型，因而在法国大革命时期出现了名为“绞架之精”的香水（因皇后在革命期间被处绞刑而得名）。拿破仑的皇后约瑟芬，特别嗜好麝香，故有“麝香狂”的别称。
19世纪下半叶，以法国为中心制造出合成香料，香水也不再是单纯的蔷薇或堇菜的花香。第二次世界大战曾使香水的发展一度出现停滞，到1945年后，香水制造业又逐渐复兴并得到快速发展。