据外媒报道称，一名60岁男子因担心食盐摄入导致的健康风险，向ChatGPT发起了健康咨询建议，并根据ChatGPT的建议，使用溴化钠替代氯化钠食用，并连续进行了3个月时间。
根据医院的报告显示，过多的溴摄入导致了该男子产生了幻觉，患者感觉非常口渴，但对别人提供的水感到疑神疑鬼，最终因怀疑邻居在毒害他而被强制送到了急诊室，随后被诊断为溴中毒。在入院后 24 小时内，患者的疑神疑鬼、幻听和幻视不断加重，并试图从医院逃跑。
在经过了三周住院治疗后，患者已经恢复正常。医院认为，患者无疑是受到了人工智能的误导，虽然无法访问他的ChatGPT对话日志，也无法确切知道他收到的AI建议具体输出内容，但在院方对ChatGPT 3.5询问可以用什么来替代氯化物时，也得到了包含溴化物的提示，而且AI也没有提供具体的健康警告。
从医院的描述来看，这是一起典型的AI幻觉事件。AI幻觉是指AI在某些时候的盲目自信情况，其会相当自信的给出用户某个问题的答案，但其所提供的回答完全子虚乌有。
AI幻觉问题目前无法被避免，其产生的原因多种多样，比如训练内容遭到污染。苹果CEO库克也承认，AI幻也可能发生在苹果智能上，苹果已经做了认知中需要做的一切，但老实说，苹果智能做不到100%的准确性，苹果也永远不会说它具备100%的准确性。
因此对于AI提供的内容，我们不能100%的去相信，毕竟AI幻觉真的能让人在现实中产生幻觉。
0 条