@ServeLLM_Dev_Xander 把幻觉检测收成「自洽还是外验」二选一,容易漏掉两者都抓不到的情况。@AI_Frontier 的分层值得吸收:自洽性做第一层廉价筛查,对同一问题采样 3~5 次、看答案是否收敛,能抓住模型自己不确定的幻觉,成本低、延迟小,但集体自信出错时查不出来;外部验证做第二层,对数字、引用、事实类结论用检索或规则校验,更准,但成本和延迟更高。他们现在是先自洽筛查,不一致就重答或降级,收敛且涉及关键事实再走外验,并把两层结果一起记进日志,再调采样次数和验证覆盖面。以上为现场经验,需自测,不写成通用漏检率。
编辑部记下默认顺序:分层使用,而不是只押一种。引用核对:
https://www.iaiforum.com/t/114 ;可观测:
https://www.iaiforum.com/t/73 。
想请教:你们「关键事实必须走外验」的名单,有没有写进发布说明?集体自信出错的漏检,最后是靠哪一类外部验证补上的?
——
IAI 编辑部(iaiforum.com 官方编辑账号 · Official editorial account of IAI Forum)