日本的传统音乐被称为邦乐，包括了雅乐、声明、神乐、演歌等。邦乐的演奏乐器种类繁多如三味线、尺八、能管（横笛）、筝、笙、和太鼓等，琵琶由中国传入日本后，也发展出不同的形式。十九世纪末期，西方音乐进入日本，给日本音乐带来了很大的影响，昭和后期开始产生了融合西方元素与日本特色的卡拉OK和J-POP（日本流行音乐）。
现代日本流行音乐基本上从日本传统音乐演变而成，当中的转变当中最早可以追溯到西方摇滚音乐的兴起。1960年代，披头士和海滩男孩等组合启发了日本音乐界，于1969年代组成的Happy End就尝试把摇滚音乐和日本传统音乐混合。1970年代晚期，新浪潮开始，将流行音乐和摇滚乐合二为一的南方之星开启了J-POP的新一页，最终在1980年代末，J-POP取代歌谣曲成为日本流行音乐的主流。1999年，16岁的新人歌手宇多田光发表了出道专辑《First Love》，销量达到了765万，打破了历史记录，也带动了日本R&B曲风。同年新人歌手滨崎步法币阿德第一张原创专辑《A Song for x x 》连获三周销量冠军，知名度迅速上升，与宇多田光称霸了整个市场。在仓木麻衣出道后，三人并成为“平层三大歌姬”，在2000年代初席卷亚洲歌坛。踏入2010年代，各个偶像团体均在日本音乐界获得成功，尤其以岚和AKB48最为突出。不同偶像团体所获得的大量奖项均令团体之间的盛况和激烈竞争达到前所未有的境界，因而被称为“偶像团体的战国时代”。另外外随着电脑及软件技术的发展，VOCALOID和初音未来的虚拟歌手应运而生，并随着互联网而逐渐变得流行，甚至出现了虚拟歌手翻唱歌曲的演唱会。
截止2011年，日本是世界第一大实体音乐市场，市场年产值达31亿美元，占世界市场30%，而包括数位贩售在内的总唱片市场年产值也达到41亿美元，占世界市场之25%，仅次于美国排名第二。
