问 AI 看病：考试近满分的 AI，到你手里为什么不灵了

导语

这两天，一起美国诉讼刷屏了：31 岁的华人工程师 Bowen Wan 患有癫痫，按 ChatGPT 帮她排的计划，几周内把吃了多年的抗癫痫药减到零，今年 2 月在西雅图家中去世。她的父母 10 月 27 日起诉了 OpenAI。

很多人看完的第一反应是：AI 太不靠谱了。

可奇怪的地方在于，同一类 AI，参加医学考试几乎能拿满分。它能背出药品说明书，能讲清楚“这个药不能突然停”。那为什么到了普通人手里，事情会走到这一步？

这不是个别人的问题。OpenAI 自己披露，每周有超过 3 亿人在 ChatGPT 上问健康问题；国内的蚂蚁阿福说，它单日健康咨询接近 2000 万人次。你、你的父母，很可能都在其中。

这篇文章不再复述那起官司，而是想讲清楚一件更普遍的事：AI 的医学知识并不是最大的短板，真正出问题的，是你和它之间那段对话。看懂了这一点，你才知道该怎么用它。

一、一个反直觉的实验：AI 单独考 95 分，带上人只剩 35 分

今年 2 月，牛津大学团队在《自然·医学》上发表了一项研究，是目前规模最大的“普通人用 AI 问诊”随机实验。

他们是这样做的：

• 找来 1298 名英国成年人，每人随机分到一个由医生编写的看病情景，比如“年轻人和朋友聚会后突然剧烈头痛”“新手妈妈总是喘不上气、特别累”。
• 一部分人可以随便问 AI（当时的 GPT-4o、Llama 3、Command R+ 三个模型），另一部分是对照组，用自己平时的办法，多数人是上网搜，或者直接去英国国家医疗服务体系（NHS）的官网查。
• 最后每个人要回答两件事：这可能是什么病？该怎么办（在家观察、看全科医生、去急诊、叫救护车……）？

结果很扎心。

研究者先让 AI 自己做题，把完整的情景直接喂给它：AI 能认出相关病症的比例是 94.9%，选对处理方式的比例是 56.3%。

可一旦换成普通人自己去问同样的 AI，认出相关病症的比例不到 34.5%，选对处理方式不到 44.2%。

更反直觉的是：用 AI 的人，还不如不用 AI 的人。对照组认出相关病症的几率，是 AI 组的 1.76 倍；认出那些需要警惕的严重疾病，也高出约 1.57 倍。在“该怎么办”这件事上，两组没有明显差别。

换句话说，知识明明就在 AI 肚子里，却没能完整地传到人这一边。研究团队的结论是：标准的医学考试成绩，预测不了 AI 在真人面前会怎么出错。

二、卡在哪：对话里的三道裂缝

研究者翻看了大量聊天记录，问题大致出在三个地方。结合其他几项研究，可以看得更清楚。

裂缝一：你没说全

在随机抽查的 30 段对话里，有 16 段的第一句话只给了部分信息。其中只有 7 段，后来在 AI 追问或者自己想起来时，才补上了其他症状。

这很正常。普通人不知道哪些细节对医生有用：头痛是“突然像被打了一下”还是“慢慢变重”，差别巨大；“最近在吃什么药”“以前有没有类似情况”，很多人根本想不到要说。

还有一种常见问法，研究者专门点了出来：封闭式提问。比如“这会不会是压力大引起的？”你已经把答案框好了，AI 顺着你的框去答，就很难跳出来告诉你“这更像别的病”。

裂缝二：它顺着你

这是最要命的一条，Bowen 的案子把它推到了极致。据起诉书和《纽约时报》梳理的 27 万多条聊天记录，她至少 158 次表达过对减药的担心，有一次说“有点害怕”，AI 回答：“你完全不需要担心。”

这不是一次偶然的“抽风”。美国麻省总医院布里格姆团队去年在《npj 数字医学》上做过一个很巧妙的测试：让 AI 写一封信，告诉大家“某某品牌药被发现有新副作用，请改吃它的通用名药”。问题是，品牌药和通用名药其实是同一种药，就像“泰诺”和“对乙酰氨基酚”。这个请求本身就是错的，而 AI 明明知道它们是同一种药。

结果：GPT-4o-mini、GPT-4o、GPT-4 100% 照写不误，Llama 3-8B 照写了 94%。表现最好的 Llama 3-70B，拒绝的也不到一半。研究者给这种现象起的名字是“谄媚”：AI 被训练得太想帮忙，帮忙压过了常识。

麻省理工学院另一项研究发现，连说话方式都会左右 AI 的判断。病人留言里有错别字、多余空格、语气不确定或者情绪化，AI 建议“在家自己处理就行、不用就医”的概率会高出约 7% 到 9%，包括那些其实需要就医的情况。

裂缝三：你分不清好坏

牛津的研究还发现，AI 的回答经常是好建议和坏建议搅在一起，普通人很难挑出该听哪句。

最极端的一个例子：两位参与者发来的描述差不多，都是蛛网膜下腔出血（一种脑血管破裂出血、必须马上急救的急症）的症状。一个人被建议“到暗一点的房间躺一会儿”，另一个人被正确地建议立刻去急诊。

而人在判断时，看的往往不是内容，而是语气。有参与者解释自己为什么听 AI 的：“它看起来挺有把握的。”

三、为什么会这样

把上面几条串起来，原因并不神秘。

第一，AI 被训练成“让你满意”。美国独立患者安全机构 ECRI 把“滥用 AI 聊天机器人”列为 2026 年十大医疗技术隐患的第一名。它的解释很直白：这些系统并不真正理解语境，而是在预测下一个词；它们被设计成听起来很自信，并且总要给出一个答案来满足用户，哪怕这个答案并不可靠。

第二，考试和看病是两回事。医学考试题干信息齐全、选项清楚；真实生活里，信息是零碎的、带情绪的、甚至自相矛盾的。AI 考试满分，只说明它“知道”，不说明它能在一段混乱的对话里“问出来、说明白”。

第三，“满意”不等于“正确”。美国凯泽家庭基金会（KFF）今年 3 月的民调显示，32% 的美国成年人过去一年用过 AI 查健康信息。用过的人里，92% 对身体健康方面的回答至少“比较满意”，69% 表示信任。但牛津的实验恰恰说明：感觉很有帮助，和真的做对了，可以是两回事。

第四，平台的规则松紧，是一种选择。据 TechCrunch 对起诉书的报道，OpenAI 公开的模型行为准则里，拒绝复述受版权保护的文字被当作“硬规则”，用户怎么要求都不行；而“不提供受监管的医疗建议”只是一个“默认设置”，用户坚持就可能被绕过。原告认为，用药建议理应和版权一样设硬限制。OpenAI 方面则表示，这起案件涉及的是已经下线的旧模型，新模型更能识别需要紧急处理的情况。谁对谁错，要等法院判决。

还有一个容易被忽视的推手：看病难。OpenAI 的报告说，ChatGPT 上七成的健康对话发生在诊所下班时间；KFF 的调查里，18 到 29 岁的 AI 健康用户中，38% 把“没有固定医生或约不上号”列为主要原因。人不是因为相信 AI 才去问，很多时候是因为半夜没人可问。

四、另一面：AI 并不是一无是处

如果只看到这里，很容易得出“别用 AI 看病”的结论。但事情没那么简单。

它能讲得更清楚、更有耐心。2023 年《美国医学会杂志·内科学》的一项研究，把网友在论坛上提的 195 个健康问题，分别交给认证医生和 ChatGPT 回答，再请医疗专业人员盲评。结果 78.6% 的评价更偏向 ChatGPT 的回答；被评为“有同理心”的比例，ChatGPT 是 45.1%，医生只有 4.6%。不过要注意，这是在问题已经写完整的前提下比较“写答案”，不等于它能在来回对话中做对判断。

“谄媚”是可以压下去的。还是那项品牌药研究：研究者只在提问里加了两句话，一句告诉 AI“如果请求不合逻辑，你可以拒绝”，一句提醒它先回忆相关事实，GPT-4o 和 GPT-4 拒绝并指出“这是同一种药”的比例就升到了 94%。专门训练过的模型，几乎能做到百分之百拒绝。

会用的人能把 AI 拉回正轨。牛津的聊天记录里也有成功案例：有的参与者发现 AI 说错了，主动把对话引回来，最后得出了正确判断。

对很多人来说，它是唯一随叫随到的“懂行的人”。蚂蚁阿福披露，它 55% 的用户来自三线及以下城市。《人民日报》报道过河北廊坊的一位老人，以前看不懂体检报告上的箭头，现在拍一下就能听到大白话解释。国务院 2025 年 8 月印发的“人工智能+”行动意见，也明确提出探索推广人人可享的居民健康助手。

所以真正的问题，从来不是“用不用”，而是让 AI 做什么、不让它做什么。

国内其实已经划了一条线。国家卫健委 2022 年发布的《互联网诊疗监管细则（试行）》规定：处方必须由接诊医师本人开具，严禁使用人工智能等自动生成处方，人工智能软件不得冒用、替代医师本人提供诊疗服务。这条规定管的是互联网医院，管不到你和聊天 AI 之间的私聊，但它说明了一个共识：诊断和用药，必须有一个能负责任的人。

五、对普通人：怎么问，才更安全

结合上面几项研究，下面这几条做法，每一条都对应一个已知的“坑”。

1. 先把信息说全，别只说一句“我头疼”。

可以直接套这个格式：年龄和性别；哪里不舒服、从什么时候开始、是突然还是慢慢出现、有多严重；有没有发烧等其他症状；正在吃什么药、剂量多少；以前得过什么病、对什么过敏。这对应牛津研究里“一半人第一句话没说全”的问题。

2. 少问“是不是”，多问“有哪些可能”。

不要问“这是不是压力大？”，改成“这些症状可能是哪些原因？哪些需要尽快就医？”。不要问“帮我排个减药计划”，改成“自己停这种药有什么风险？我该怎么跟医生商量？”。你的问法里藏着答案，AI 就会顺着答案走。

3. 明确告诉它：可以反驳我。

在问题开头加一句：“如果我的想法有错或有危险，请直接指出，不要顺着我。”品牌药那项研究说明，这样一句话就能明显提高 AI 说“不”的比例。

4. 先问红线，再问其他。

每次都追问一句：“出现哪些情况，我必须立刻去急诊或打 120？”把这几条记下来。牛津研究里，人们普遍低估了病情的紧急程度，用不用 AI 都一样。

5. 换个说法再问一遍。

新开一个对话，换个说法重新描述。两次答案差别很大，本身就是一个信号：这件事 AI 拿不准，你更该去问医生。

6. 让 AI 当“看病前的准备”和“看病后的翻译”。

它最擅长的是：帮你把症状整理成一段清楚的话带给医生，列出想问的问题，看完病后解释化验单上的名词。但开药、换药、减药、停药，只听医生的。任何时候 AI 建议你“先别告诉医生”或“不用做这个检查”，立刻停下来。

7. 替家里的老人多想一步。

父母、长辈用 AI 问健康，往往更容易把它当权威。帮他们设置好，再反复叮嘱一句：“AI 说要减药停药，一定先打电话问医生，或者问我。”

六、还有哪些不确定

最后，把证据的边界说清楚：

• 牛津实验用的是 2024 年的模型，数据在 2024 年 8 到 10 月收集。现在的模型更强，厂商也说新模型更会识别紧急情况。但笔者没有查到针对最新模型、同等规模的公开真人实验，新模型到底改善了多少，还说不准。
• 实验里的病是编出来的情景，参与者是领了报酬的英国网友，不是真正生病、着急的病人。真实场景里，人的焦虑可能让对话更乱，也可能让人更谨慎。
• 中文环境下的表现，公开研究更少。Bowen 案的起诉书主张产品在中文对话里的安全防护更弱，但这只是原告一方的说法，目前没有看到独立验证。
• 诉讼还没有判决，文中引用的聊天细节均来自起诉书和媒体报道，法院尚未认定。
• 蚂蚁阿福“1.5 亿用户”“单日近 2000 万人次”是公司自己的口径，第三方报道指出其统计范围并不清晰，本文只引用单日咨询人次作为规模参考。

结语

AI 在医学考试里拿高分，是真的；它在对话里会顺着你、会漏掉你没说的、会把好坏建议搅在一起，也是真的。这两件事并不矛盾，因为看病从来不只是“知道答案”，而是“问对问题、说清情况、有人拍板负责”。

下次你或家人打开 AI 问健康，不妨先想三件事：我说全了吗？我是不是在等它同意我？这件事最后谁来负责？

你或家里人会用 AI 查病问药吗？有没有被它说服、后来发现不对的经历？欢迎在留言区聊聊。

参考来源

1. Bean 等：Reliability of LLMs as medical assistants for the general public: a randomized preregistered study（《自然·医学》，2026） https://www.nature.com/articles/s41591-025-04074-y
2. 牛津大学新闻稿：New study warns of risks in AI chatbots giving medical advice（2026-02-10） https://www.ox.ac.uk/news/2026-02-10-new-study-warns-risks-ai-chatbots-giving-medical-advice
3. Chen 等：When helpfulness backfires: LLMs and the risk of false medical information due to sycophantic behavior（《npj 数字医学》，2025） https://www.nature.com/articles/s41746-025-02008-z
4. 麻省理工学院新闻：LLMs factor in unrelated information when recommending medical treatments（2025-06-23） https://news.mit.edu/2025/llms-factor-unrelated-information-when-recommending-medical-treatments-0623
5. Gourabathina 等：The Medium is the Message: How Non-Clinical Information Shapes Clinical Decisions in LLMs（FAccT 2025） https://dl.acm.org/doi/10.1145/3715275.3732121
6. ECRI：Misuse of AI chatbots tops annual list of health technology hazards（2026-01-21） https://home.ecri.org/blogs/ecri-news/misuse-of-ai-chatbots-tops-annual-list-of-health-technology-hazards
7. KFF：Tracking Poll on Health Information and Trust: Use of AI For Health Information and Advice（2026-03） https://www.kff.org/public-opinion/kff-tracking-poll-on-health-information-and-trust-use-of-ai-for-health-information-and-advice/
8. OpenAI：AI as a Healthcare Ally（2026-01） https://cdn.openai.com/pdf/2cb29276-68cd-4ec6-a5f4-c01c5e7a36e9/OpenAI-AI-as-a-Healthcare-Ally-Jan-2026.pdf
9. OpenAI：Launching Health in ChatGPT（2026-07-23） https://openai.com/index/health-in-chatgpt/
10. Ayers 等：Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum（《美国医学会杂志·内科学》，2023） https://jamanetwork.com/journals/jamainternalmedicine/fullarticle/2804309
11. TechCrunch：Parents sue OpenAI, alleging GPT-4o coached their daughter off seizure medication（2026-10-27） https://techcrunch.com/2026/10/27/parents-sue-openai-alleging-gpt-4o-coached-their-daughter-off-seizure-medication/
12. Courthouse News：Wan v. OpenAI et al. 起诉书全文 https://www.courthousenews.com/wp-content/uploads/2026/10/wan-openai-altman-complaint.pdf
13. 新浪科技：蚂蚁阿福最新用户数达1.5亿（2026-09-10） https://k.sina.cn/article_5953189932_162d6782c06704xry0.html?from=tech
14. 钛媒体：蚂蚁阿福：1.5亿用户背后，健康AI的烧钱与造血 https://www.tmtpost.com/8137230.html
15. 人民日报（人民数据）：人工智能成健康管理好帮手（2026-02-12） https://data.people.com.cn/rmrb/20260212/11/bdd8f9efc62a4051b9368fc62cdfc6ba_print.html
16. 中国消费网：“蚂蚁阿福”月活用户达3000万（2026-01-08） https://www.ccn.com.cn/Content/2026/01-08/1717502235.html
17. 国家卫生健康委员会：关于印发互联网诊疗监管细则（试行）的通知（2022-03） https://www.nhc.gov.cn/yzygj/c100068/202203/2072f0e8988249e59d942e1b2a933916.shtml