有一年八月十五，晉國大將軍俞伯牙在楚國辦事，遇見了楚人鍾子期，他們結拜成了兄弟，並且成了難覓的知音，約好了明年的這個時候再見面。

過了一年，到該見面的時候了，可是俞伯牙等啊等啊，怎麼也不見鍾子期來赴約，于是他便彈起琴來召喚這位知音，可是又過了好久，還是不見人來。第二天，俞伯牙向一位老人打聽鍾子期的下落，老人告訴他，鍾子期已不幸染病去世了。臨終前，他留下遺言，要把墳墓修在江邊，到八月十五相會時，好聽俞伯牙的琴聲。聽了老人的話，俞伯牙萬分悲痛，他來到鍾子期的墳前，淒楚地彈起了古曲《高山流水》。彈罷，他挑斷了琴弦，長嘆了一聲，把心愛的瑤琴在青石上摔了個粉碎。他悲傷地說：我唯一的知音已不在人世了，這琴還彈給誰聽呢？”

相傳，俞伯牙善於彈琴，而楚國漁夫鍾子期善於聆聽。每次俞伯牙彈琴的時候，鍾子期總能從琴音中品出俞伯牙的所思所想。如果俞伯牙心想到高山，鍾子期立刻心領神會道：“善哉乎鼓琴，巍巍乎若泰山。”當俞伯牙心思著流水，鍾子期馬上脫口而出道：“善哉乎鼓琴，湯湯乎若流水。”

不管俞伯牙心裡想什麼，鍾子期都能準確無誤的道出他的心意。久而久之，兩人相互引為知己。

後來，鍾子期不幸病逝，俞伯牙認為這個世界上再沒有一個人能懂自己的琴聲。于是，他忍痛彈奏著最後一曲，曲終絕絃，永生再不彈琴。

唐孟浩然《夏日南亭懷辛大》一詩，其中有句“欲取鳴琴彈，恨無知音賞。”就是化用了伯牙絕絃的典故。