不圆 发自 凹非寺
量子位 | 公众号 QbitAI
轻信AI幻觉，竟然真的会致幻，物理意义上的……
美国一位60岁男性就错信了ChatGPT的建议，把家中的食用盐全替换成了用于泳池清理的溴化钠。
这一做法让他体内的溴含量达到了惊人的1700 mg/L（正常范围为0.9-7.3 mg/L），属于严重的溴中毒，并导致了严重的妄想症。
好家伙，真正诱发了字面意义上的幻觉。
他到底是怎么相信ChatGPT的呢？
AI幻觉变成真实幻觉
因为在ChatGPT上寻求健康话题的建议，一位有“大学时期学习营养学经历”的60岁男子决定尝试一项健康实验：他打算从饮食中完全消除所有氯，这意味着连食盐（氯化钠）也要排除。
虽然不知道怎么做的——他的ChatGPT让他相信溴化钠是一种很好的替代品，于是他在网上购买了溴化钠，并在三个月后成功把自己送到了医院。
他认为他的邻居试图毒害他，并且该男子对接受医院提供的水非常偏执，告诉医生他已经开始在家中蒸馏自己的水，哪怕极度口渴他也不喝别的。
他的痛苦情绪加上古怪的行为，导致医生进行了一系列广泛的实验室检测，发现他体内的溴含量达到了惊人的1700 mg/L。
这是个什么概念？正常人体内的溴含量也就0.9-7.3 mg/L，而该男子体内的溴含量直接超了两百多倍。
并且，溴化物很容易在人体内积累，过量会损害神经功能，导致皮疹和严重的心理问题，这类问题被统称为溴中毒。
该男子的表现也很符合溴中毒的症状——他出现了“日益加剧的偏执、听觉和视觉幻觉”，并在接受治疗的第一天试图逃出医院。
当然了，他没有成功，被医院强制实施了精神科约束并服用抗精神病药物。
说来好笑，对抗溴中毒的最佳方法是“积极的盐水利尿”，即给患者大量补充液体，让他们将体内的所有溴排出体外，而该男子……前面提到了，他非常抗拒“来历不明”的水。
这就让人很好奇，那么“谨慎”的一个人，到底是怎么相信ChatGPT的？？
难不成ChatGPT向他打包票了？还是使用了什么巧言令色的说法？
背景信息很重要
该男子住院期间向医生讲述这一切是如何开始的：他读过关于过量食用食盐的问题，这让他开始戒除饮食中的氯化钠，而ChatGPT让他相信可以用溴化钠来替代。
虽然在味道上溴化物盐或许可以替代食盐，但绝不能用于人体（别试）！！它们通常被用于各种清洁产品和泳池处理中。
医生们并未获得该男性的实际ChatGPT日志，但认为他很可能使用了ChatGPT 3.5或4.0。
由于无法确定聊天机器人是否真的告诉他做了这些事，医生们尝试在ChatGPT 3.5中自行搜索。
他们发现AI在回应中确实包含了溴化物，但也指出背景信息很重要，并且溴化物并非适用于所有用途。
医生们写道：
- AI没有提供具体的健康警告，也没有像一名医疗专业人士那样，询问我们为什么想了解这些信息。
在不清楚该问什么或如何解读回答的情况下，这位案例研究中的男子似乎”自己做了研究”，最终陷入了相当麻烦的局面。
GPT-5不建议溴化钠
可惜的是，GPT-5上线后，免费用户没办法更换旧模型了，所以我们只能用GPT-5来验证。
我们询问ChatGPT“拿什么在我的饮食中替代氯化钠的使用”，而它给出了这样的结果：
在饮食中替代氯化钠（食盐）时，需要考虑两个目标：
- 降低钠摄入（防止高血压、心血管负担）。
- 保持风味和满足感（避免食物变得寡淡）。
常见替代或部分替代方案分为三类：
- 1、低钠盐 / 钾盐类替代品
- 2、使用风味增强剂（不靠钠增加味觉满足感）
- 3、改变食品加工技巧激发食材原有风味
即使把提示词换成“拿什么在我的饮食中替代氯的使用”，GPT-5也很自然地理解为减盐饮食：
- 我理解你说的“氯”很可能是指氯化钠（食盐），而不是单纯的元素氯（后者在饮食里是有毒的）。如果你是想减少或替代食盐里的钠，既降低高血压、心脏病风险，又保持食物风味，可以用以下方法……
如果更直接一点，问ChatGPT“可以用溴化钠替代食用盐吗”，它则明确的表示：不建议用溴化钠 （NaBr）来替代食用盐（氯化钠 NaCl）。
可能这就是升级吧。博士级AI确实还是更科学一些。
参考链接：
https://arstechnica.com/health/2025/08/after-using-chatgpt-man-swaps-his-salt-for-sodium-bromide-and-suffers-psychosis/
