人类社会从什么时候开始有了音乐，已无法查考。在人类还没有产生语言时，就已经知道利用声音的高低、强弱等来表达自己的意思和感情。随着人类劳动的发展，逐渐产生了统一劳动节奏的号子和相互间传递信息的呼喊，这便是最原始的音乐雏形；当人们庆贺收获和分享劳动成果时，往往敲打石器、木器以表达喜悦、欢乐之情，这便是原始乐器的雏形。

世界上最早的弦乐器是中国的古琴，亦称瑶琴、玉琴、七弦琴，古琴是在周朝就已盛行的乐器，到现在至少也有3000年以上的历史了。本世纪初才被称作“古琴”。琴的创制者有“昔伏羲作琴”、“神农作琴”、“舜作五弦之琴以歌南风”等作为追记的传说，可看出琴在中国有着悠久的历史。《诗经·关雎》有“窈窕淑女，琴瑟友之”，《诗经·小雅》亦有：“琴瑟击鼓，以御田祖”等记载。

中国古代历史记述了距今五千年前的黄帝时代，有一位名叫做伶伦的音乐家，他进入西方昆化山内采竹为笛。当时恰有五只凤凰在空中飞鸣，他便合其音而定律。虽然这一故事也不能完全相信，但是，可将其看做是有关管乐器起源的带有神秘色彩的传说。

中国最初的帝王——黄帝，是五千年前创造了历法和文字的名君。当时，除了前述的伶伦之外，还有一位名叫“伏羲”的音乐家。据说伏羲是人首蛇身，曾在母胎中孕育了十二年。他弹奏了张有五十弦的琴，由于音调过于悲伤，黄帝将其琴断去一半，改为二十五弦。

此外，在黄帝时代的传说中，神农也是一名音乐家，他教人耕作，尝百草发现了草药，他还创造了五弦琴。