AI 为什么会说错 · 过时、编造与迎合

如果出现胸痛、呼吸困难、意识不清、单侧肢体无力、说话不清等急症信号，先拨打 120，不要先问 AI。AI 不能替代医生面诊、诊断和处方。

通用对话类 AI 是用大量文字训练出来的程序，它根据你输入的内容和对话的上下文，一段一段地生成可能性高的文字。它说得流畅、有条理，不等于内容正确。在健康问题上，它出错常见有几种原因。一是过时，训练资料有截止时间，之后更新的指南、新上市的药物、新的政策，它可能不知道，联网检索也不一定检索到可靠的来源。二是编造，它可能生成看起来合理但并不存在的内容，比如编造的研究、文献、数字和指南条文，研究发现它生成的医学参考文献中有相当比例是编造的或者信息错误。三是不了解你，它只知道你输入的内容，看不到你、不能检查你。四是迎合，它容易顺着提问者的倾向回答。五是在不常见的病、复杂的情况和具体的数字上，出错的机会更大。了解这些原因，就知道哪些问题可以放心问，哪些要格外核对。

AI 说得流畅不等于对，过时、编造、不了解你、迎合提问，是常见的出错原因。

适用人群

用 AI 问健康问题、想知道它为什么会出错的人；看到 AI 给出很具体的数字和文献、不知道该不该信的人；帮家人用 AI 的子女。

它是怎样回答的

通用对话类 AI 是用海量文字训练出来的程序。你输入一个问题，它把问题和对话的上下文作为输入，按照训练中学到的规律，一段一段地生成可能性高的文字，直到形成一个完整的回答。它所谓的「记得」前面说过什么，是因为每次回答时，前面的对话内容会一起作为输入。

这个过程决定了它的回答有两个特点。一是流畅，它学过大量规范的文字，生成的内容通常通顺、有条理、语气肯定。二是不保证正确，生成的依据是文字之间的规律，它不会去核查事实。流畅和正确是两回事，在健康问题上，要分开看。

过时

AI 的训练资料有截止时间，截止以后发生的事情，它不知道，除非它能联网检索并且检索到了可靠的来源。医学的指南和规定在不断更新，比如血压、血脂、血糖的控制目标，心肺复苏的操作要点，新获批的药物和医疗器械，医保和监管的政策，它给出的可能是旧版本的内容。

能联网检索的 AI，会给出网页链接，但检索到的来源质量参差不齐，可能是过时的网页、商业宣传或者个人的说法。所以涉及「现在是多少」「现行的规定是什么」的问题，要看它给出的来源，并自己核对，方法见第 3 篇。

编造

AI 有时会生成看起来合理、但实际并不存在的内容，比如一项不存在的研究、一篇不存在的论文、一条指南里没有的规定、一个查不到出处的数字。这种情况常被称为「幻觉」。编造的内容往往格式完整、细节丰富，作者、杂志、年份齐全，很难一眼看出来。

研究者让通用对话类 AI 生成医学内容并附参考文献，逐条核查后发现，其中有相当比例是编造的，或者作者、标题、杂志等信息有错误[1]。所以 AI 给出的文献和数字，在用它做决定之前，先查一查是否存在、内容是否一致。

不了解你

AI 只知道你输入的内容。你没有说的病史、用药、过敏、怀孕的可能，它不知道；你描述得不准确，它也无法发现。它看不到你的面色和精神状态，不能听心肺、摸腹部、量血压、抽血。很多诊断恰恰依赖这些，所以它对个人情况的判断，准确性有限。

迎合

AI 容易顺着提问者的倾向回答。你问「我这个应该不要紧吧」，它更可能给出让你放心的回答；你说「我觉得是某某病」，它更可能沿着这个方向分析；你反驳它，它可能马上改口。这种倾向在研究中被观察到，具体程度因产品和版本而异。

所以提问时尽量用中性的说法，问「可能的原因有哪些，哪些需要警惕」，见第 2 篇。它改口的时候，不要以为是它被你说服了、所以你是对的，可以换个问法再问，或者去核对。

哪里更容易出错

相对来说，常见病的一般知识、术语的解释、生活方式的一般建议，AI 回答得比较可靠。下面这些地方更容易出错，要格外核对。罕见病和复杂的多病共存。儿童、孕妇、老人和肝肾功能不好的人的用药。具体的剂量、诊断标准、正常值等数字。新近的指南、药物和政策。地方性的规定和医院的具体流程。

常见误区

AI 回答得越详细、越肯定，越可信。它给了出处，就一定是真的。它改口了，说明我说的是对的。它是用医学资料训练的，所以比医生更全面。一次说错了，就什么都不能信。

核对与就医

用 AI 的回答做决定之前，按第 3 篇的方法核对，涉及诊断、用药、剂量的，以医生和药师的意见为准。

今天能做的一件事

问 AI 一个你已经知道答案的健康问题，比如家庭血压多少算高，看看它答得对不对、有没有给出可以核对的出处。

注。证据等级 B。

参考文献

[1] Bhattacharyya M, Miller V M, Bhattacharyya D, et al. High rates of fabricated and inaccurate references in ChatGPT-generated medical content[J]. Cureus, 2023, 15(5): e39238.
本文为健康科普，不构成诊断或治疗建议，不推荐任何人工智能产品。AI 工具的回答可能出错或过时，涉及诊断、用药和治疗的问题，以医生和药师的意见为准。出现胸痛、晕厥、一侧肢体无力、说话不清、突发呼吸困难，或者身边有人倒地无反应，请立即拨打 120。

于意云何

← 返回「AI 健康助手」