当初，辽东公翟黑子被北魏国主宠信，奉命出使并州（今山西太原一带），接受了一千匹布。事情败露，翟黑子和高允商量说：“主上问我，应该如实禀告，还是隐瞒？”高允说：“您是皇上的宠臣，有罪坦白，或许能被原谅，不能再欺骗了。”中书侍郎崔览、公孙质说：“如果坦白，罪不可测，不如隐瞒。”翟黑子怨恨高允说：“你为什么引诱我去死！”入宫见北魏国主，没有如实回答，北魏国主发怒，杀了他。北魏国主让高允给太子讲授经书。
等到崔浩被逮捕，太子召高允到东宫，趁机留下住宿。第二天早上，和他一起入朝，到宫门口，对高允说：“进见皇上，我亲自引导你；如果皇上有问，只按照我说的话回答。”高允说：“是什么事？”太子说：“进去就知道了。”太子见北魏国主，说：“高允小心谨慎，而且地位低微；事情是崔浩控制的，请赦免他的死罪！”北魏国主召高允，问：“《国史》都是崔浩写的吗？”回答说：“《太祖记》是前着作郎邓渊写的；《先帝记》和《今记》，是我和崔浩共同写的。但崔浩负责的事情多，只是总揽大纲而已（胡三省注：指总揽大纲，裁决可否），至于着述，我写的比崔浩多。”北魏国主发怒说：“高允的罪比崔浩还重，怎么能活！”太子害怕说：“皇上威严深重，高允是小臣，迷乱失序罢了。我刚才问他，都说的是崔浩做的。”北魏国主问高允：“真的像太子说的那样吗？”回答说：“我的罪该灭族，不敢说谎。殿下因为我侍奉讲经很久，怜悯我，想让我活命。其实没有问过我，我也没有说过那样的话，不敢迷乱。”北魏国主回头对太子说：“正直啊！这是人之常情难以做到的，而高允能做到！临死不改变言辞，是诚信；作为臣子不欺骗君主，是忠贞。应该特别赦免他的罪来表彰他。”于是赦免了高允。
接着召崔浩前来，当面责问他。崔浩惶恐困惑不能回答。高允一一申明，都有条有理。北魏国主命令高允写诏书，诛杀崔浩和属官宗钦、段承根等，下至僮吏，共一百二十八人，都灭五族；高允迟疑不写。北魏国主多次派人催促，高允请求再见一次面，然后写诏书。北魏国主让他上前，高允说：“崔浩的罪过，如果还有其他的原因，不是我敢知道的；如果只是因为直书其事，罪不至死。”北魏国主发怒，命令武士抓住高允。太子为他下拜请求，北魏国主的怒气消解，于是说：“没有这个人，会有几千人死去。”
六月己亥日，下诏诛杀清河崔氏和崔浩同宗的人不论远近，以及崔浩的姻亲范阳卢氏、太原郭氏、河东柳氏（都是北方大族，范阳在今河北涿州，太原在今山西太原，河东在今山西南部），都灭族（胡三省注：崔浩所联姻的，都是士族中的有声望的人，没有依附请求的罪过，因为崔浩的缘故都被灭族。选择配偶能不谨慎吗！），其余的只诛杀本人。把崔浩关在囚车里，送到城南，几十名卫士在他身上小便，他的惨叫声在路上都能听到。宗钦临刑感叹说：“高允大概是圣人吧！”
后来，太子责备高允说：“人也应该知道变通。我想为你免死，已经开了头；而你最终不听从，激怒皇上到这种地步。每次想到，都让人心惊。”高允说：“史官，是记录君主善恶的，为将来劝诫，所以君主有所畏惧，谨慎自己的行为。崔浩辜负圣恩，因为私欲埋没廉洁，因为爱憎遮蔽公正，这是崔浩的责任。至于记载朝廷起居，谈论国家得失，这是史书的根本，没有太多违背。我和崔浩实际共同做这件事，死生荣辱，按道义不应有区别。实在承受殿下再生的慈爱，违背心意苟且免死，不是我所希望的。”太子感动赞叹。高允退下，对人说：“我不按照太子的指示做，是害怕辜负翟黑子的缘故。”
当初，冀州刺史崔赜，武城男崔模，和崔浩同宗但不同族；崔浩经常轻视侮辱他们，因此不和。等到崔浩被诛杀，这两家独自得以幸免。崔赜是崔逞的儿子（崔逞归附北魏，被魏太祖所杀）。
辛丑日，北魏国主北巡阴山。北魏国主诛杀崔浩后又后悔了。恰逢北部尚书（胡三省注：各版本“书”下有“宣城公”三字）李孝伯病重，有人传他已经死了。北魏国主哀悼说：“李宣城可惜！”接着说：“我说错了；崔司徒可惜，李宣城可哀！”李孝伯是李顺的堂弟（李顺也被北魏国主