哪些事必须对AI“零信任”？
人神共奋 ｜ 2026-09-11

01

有些人比AI还像AI

错误可以分为两类：

一类是事实没错，逻辑错了。比如：天下雨了，所以我没带伞。

另一类是事实错了，逻辑没错。比如：天没下雨，所以我没带伞（事实是有雨）。

人类追求的是事实尽可接近真相，逻辑上能看懂就行；但AI更在意逻辑上的正确，至于事实是否正确——抱歉，它根本不知道什么是事实。

这就是大模型产生幻觉的根本机制：

它是靠预测下一个字而不是像人类一样复现事实；

它没有“记忆自检”能力，也不会“记”原文，没有训练过的数据就瞎编，而且瞎编的成本远远低于搜索核对；

它还在训练中养成了“讨好提问者”的坏毛病。

在上一篇《大模型最隐蔽的4种“坑”，大多数人每天都在踩》中，我列出了容易让大模型产生幻觉的四类问题，以及如何应对：

第一类：小众冷门专业知识类问题

第二类：需要精确引用的内容

第三类：找不到真实案例就现编故事

第四类：主观评价及诱导式提问

还有必须持“零信任”的态度的两件事：

核实关键数据：所有的数字、年份、人名，必须通过搜索引擎或官方文档进行二次核对。

不要直接复制引用：对于合同条款或论文引用，必须对照原文逐字检查。

在上一篇中，我一直强调人类与大模型的思维模式截然不同，导致它总是在我们想不到的地方给我们“挖坑”；

但在本篇中，我想从另一角度分析大模型的幻觉问题，其实人与人之间的区别也很大，甚至比大模型与人的区别还大——

有些人，知道就是知道，不知道就是不知道；但有些人，给他一杯水，能说成太平洋；

有些人，宁可利益受损，也不说一句谎话；而有些人满嘴跑火车，甚至意识不到自己在说谎。