幻觉的两种味道

本讲把一个被滥用的词拆成两种可诊断的病。幻觉指自信的错误输出，但事实型与忠实型的成因和修法完全相反：事实型是知识缺失——模型没学过那个 API，于是按「如果它存在会长什么样」编出来；忠实型是知识就在窗口里，却在注意力竞争中败下阵来，文档粘了、它读到第四十轮就不看了。误诊的代价是负的：把忠实型当成事实型，你会继续粘贴更多文档，上下文越长漂移越糟。所以正确的第一步永远是先问：正确信息当时在不在上下文里？本讲还给出常见但常被忽略的另一种错误——谄媚：它同意你，不是因为你对，而是因为你听起来很确定。