吕安之妻徐氏貌美，被吕安的兄长吕巽迷奸，吕安愤恨之下欲状告吕巽。嵇康与吕巽、吕安兄弟均有交往，故劝吕安不要揭发家丑，以全门第清誉。但吕巽害怕报复，遂先发制人，反诬告吕安不孝，吕安遂被官府收捕。嵇康义愤，遂出面为吕安作证，触怒大将军司马昭。此时，与嵇康素有恩怨的钟会，趁机向司马昭陷害嵇康，将吕安、嵇康都处死。
行刑当日，三千名太学生集体请愿，请求赦免嵇康，并要求让嵇康来太学做老师，这些要求并没有被同意。临刑前，嵇康神色不变，如同平常一般。他顾看了日影，离行刑尚有一段时间，便向兄长嵇喜要来平时爱用的琴，在刑场上抚了一曲《广陵散》。曲毕，嵇康把琴放下，叹息道：“从前袁孝尼（袁准）曾跟我学习《广陵散》，我每每吝惜而固守不教授他，《广陵散》现在要失传了。”（《广陵散》并不是嵇康独作）说完后，从容就戮。海内的士人，没有不痛惜的。司马昭不久后才意识到错误，并深为后悔。谢万将其列为“八贤”之一。袁宏在《名士传》中称嵇康等七人为“竹林名士”。