1978年邓小平访日，在皇宫丰明殿聆听了中国失传1300多年的唐乐《龟兹乐》。乐工身穿平安时代的宫廷服装，正襟危坐焚香抚琴，带着唐朝的天籁与禅意。作为中国人，即便不懂也不可以不尊敬，不可以不佩服日本人千百年来恒久的坚持。
中国一度对西洋音乐无批判地学习模仿，年轻一代认为学西方音乐高人一等，学民乐矮人三分，以致民乐被忽略鄙弃，缺乏挖掘。近年来，民族音乐日益发扬光大，《春节序曲》、《喜丰收》、《茉莉花》、《蝴蝶泉边》还在世界著名的音乐圣殿维也纳金色大厅演出，令西方人为之倾倒。
日军占领北平时，一个日本军官欣赏京剧《霸王别姬》，当听到“力拔山兮气盖世”时，脸色大变，转身便走，“这是一个古老民族几千年灵魂的呐喊，闻之令人生畏。这样的民族是很难战胜的”。在陈凯歌电影《霸王别姬》中，日本军官怀着无比崇敬的态度，静静地听着程蝶衣唱京剧，而国民党军官和无赖只会勒索捣乱，砸场子，素质低下。当时，梅兰芳等京剧名角赴日演出，日本拍摄并保存了大量珍贵的影像资料。这些珍贵的资料几十年后中国人都需花钱购买。
中国最早接触西方音乐文化也是从日本开始。清末学堂设“乐歌课”，教材、阿拉伯记谱都从日本传来。沈心工、李叔同等留日，创办了中国第一个音乐组织和团体刊物，并根据在日本流行的欧美歌曲和日本民歌填上新词，编成新歌曲。革命歌曲《工农兵联合起来》就是利用1901年日本作曲家小山作之助的《宿舍里的旧吊桶》填上新词而成。
“义勇军”和“进行曲”都是日本词汇，日本的进行曲十分盛行，留学日本的田汉借鉴后完成《义勇军进行曲》的歌词，音乐家聂耳在东京完成作曲，最后成为新中国的国歌。
聂耳在日本期间，感到那是一个非常热爱艺术、音乐的国度，就连乡下的中小学生、普通妇女都能说出几个音乐家和他们的作品。他评价说：
老实说，他们能分辨某个提琴协奏曲是某人作的，某个歌谣是某国的民谣，而我有时候却没有他们清楚。他们音乐水准会比我们中国高，这也是当然的结果。只看他们每天新闻报纸上的音乐消息吧，播音节目啊，触目便是音乐家的名字和作品的番号。要是有无线电和留声机的更是容易记住，更何况无线电和留声机是比中国普及。
日本的《四季歌》、《拉网小调》等歌曲深受中国人喜爱。中国人最熟悉的日本歌曲是《北国之春》，由井山博作词，远藤实作曲，描写离开农村的年轻人背井离乡出外闯荡，在收到母亲寄来的包裹时，情不自禁地思念家乡、慈母和恋人，美得仿佛可以看见北国的色彩和阳光。
中国音乐家也有多人具有国际声誉，如世界顶级大提琴家马友友。青年钢琴家朗朗多次获得国际大奖，他和世界一流交响乐团都有合作，每年在全球巡演上百场。朗朗在2006年德国足球世界杯和2008年北京奥运会上的演奏，更奠定了他的地位。
流行音乐方面，日本一年一度的新年红白歌唱大赛，是亚洲歌星的最高舞台。邓丽君早年接受日本声乐家山田茂的严格训练，用歌声影响了整个华人世界。港台学习日本，大陆又模仿港台，中国音乐创作从观念到包装都从日本得到启迪和借鉴。日本民谣歌手的台风至今还影响着台湾爱情歌曲，偏重于浅吟低唱，身着宽松服装和白塑料鞋。至于红极一时的红唇族、小虎队、F4等青春偶像组合一招一式更有浓郁的日本味。日本歌曲还被港台重新填词翻唱，风靡华语地区，比如《健康歌》、《如果幸福你就拍拍手》、《热情的沙漠》，还有邓丽君的《我只在乎你》，周华健的《让我欢喜让我忧》、《花心》，任贤齐的《伤心太平洋》，莫文蔚的《盛夏的果实》，刘若英的《后来》、《很爱很爱你》等。2006年，花儿乐队演唱的《嘻唰唰》成为中国最流行的歌曲，却是抄袭日本的《K2G奔向你》。
世界最大的唱片公司索尼旗下曾有迈克尔·杰克逊、席琳·狄翁、玛利亚·凯丽、瑞奇·马丁等巨星。日本还生产世界最优秀的乐器，三洋录音机是改革开放初中国青年收听音乐的宝贝，雅马哈公司是世界上最大的优质钢琴、电子琴制造商，连著名的柏林爱乐团都使用雅马哈牌单簧管和小号。
日本在音乐上最卓越的贡献当属自娱自乐的音乐系统“卡拉OK”。“卡拉OK”是日文“空白”和英文“管弦乐”组成的复合词，意即“音乐伴奏”。日本有6000万人经常唱卡拉OK，中国人更把卡拉OK当成了社交中的保留节目。发明者井上大佑被美国《时代》周刊评为亚洲20世纪最有影响的20人之一，理由是“甘地和毛泽东发动的革命改变了亚洲的白天，井上则改变了亚洲的夜晚”。