历代文献关于伯牙的记载颇多,最早见于荀况的《劝学》篇:“昔者瓠(hù)巴鼓瑟,而沉鱼出听;伯牙鼓琴,而六马仰秣”。用夸张的手法极言其音乐演奏的生动美妙。伯牙从小非常聪明,天赋极高,又很喜欢音乐,他的老师是当时很有名气的琴师成连。