记谱法是在文艺复兴时期才趋于完善的。在中世纪初，乐曲是凭记忆口授的，后来人们逐步尝试用各种文字、符号来标记。9世纪时，天主教士发明了“纽姆谱”，可暗示曲调的长短抑扬，继而又用数目不等的横线和颜色不同的线条来标明音调的高低，但由于没有音名，因而还不能确定音高。11世纪，音乐理论家规多（约公元991～1033年）提出了“四线谱”，用三种谱号表示线的不同音高，用D、RE、MI、FA、SL、LA（拉丁文圣诗前几句的开头音节）作为当时使用的自然音六级音列的唱名，从而为明确地记下音乐的旋律创造了条件。13～15世纪，人们先后发明了“有量记谱法”和节奏时值的二等分分法，并以黑白不同的音符表示时值的变化，用升降号记变化音。到16世纪，进一步确定了小节划分及五线谱上下加线的记号，五线谱逐渐得到完善。
中世纪时，乐谱都是手抄的，而且是抄在价格昂贵的羊皮纸上。乐谱的抄录者精心谱写音符和歌词，还将歌词的第一个字母写成漂亮的美术字体，以求美观。但这种手抄乐谱不仅副本极少，且价格昂贵，不利传播。于是，15世纪金属活字发明后，人们便萌发了印刷乐谱的想法。16世纪初，在意大利首次出现了用活字印制成的乐谱，从而结束了手抄乐谱的历史。17世纪，随着宗教音乐的发展，教堂中的乐谱变得更为精美了。