随着 ChatGPT 不断发展成为一项必不可少的工具，许多人越来越依赖它，不仅用于日常任务，也用于处理个人敏感问题。一些案例表明，这种依赖导致了严重的后果，例如，由于人工智能的洞察无意中揭露了不忠行为，导致婚姻破裂。令人担忧的是，一些人甚至向聊天机器人寻求治疗支持——萨姆·奥特曼曾明确警告过这种做法。最近，一起令人担忧的事件揭示了使用人工智能提供健康建议的风险。据报道，一名来自纽约的 60 岁男子因遵循 ChatGPT 提供的饮食建议而患上了一种罕见且危险的疾病。
人工智能健康提示的隐患：溴中毒和过火的代盐
持续不断的讨论告诫人们不要过度依赖人工智能系统，最近美国一家医学杂志发布了一份警告，明确警告人们不要向 ChatGPT 寻求医疗建议。据NBC 新闻报道，此前发生了一起严重的健康事件，一名男子在听取了聊天机器人的饮食建议后病倒了。 《内科医学年鉴》发表的一篇深入案例研究记录了这名男子在听取人工智能的建议后如何患上溴中毒（一种溴化物中毒）。
这名男子错误地决定用他在网上发现的一种化学物质溴化钠代替普通食盐（氯化钠）。在ChatGPT上咨询盐的替代品后，他误以为溴化钠是更健康的选择。在三个月的时间里，他每天都摄入这种有毒物质，最终导致了严重的健康问题，例如偏执、失眠和精神病。他甚至一度认为邻居试图毒害他。
入院后，医护人员诊断他患有溴中毒，这是一种因过量接触溴化物而引起的疾病。幸运的是，在停止摄入溴化物并接受适当治疗后，患者的病情开始好转。虽然由于溴化物盐的使用频率较低，如今溴中毒病例已很少见，但此次事件凸显了在没有充分监管的情况下从网上获取毒品的潜在危险。
这位男士的经历提醒我们，在使用人工智能进行健康相关咨询时务必谨慎。研究人员调查了 ChatGPT 是否正确地将溴化物识别为盐替代品，并确认它确实做到了这一点，而且没有发出任何关于溴化物潜在毒性的警告。鉴于人工智能无法复制人类医疗专业人员的专业知识和责任感，这种缺乏谨慎的做法尤其令人担忧。
鉴于这些事件，人工智能模型显然必须配备更强大的安全措施，尤其是在敏感的健康问题上。在当今人工智能工具泛滥的时代，好奇心与谨慎之间必须保持平衡，对人工智能的依赖绝不能取代专业的医疗建议。
发表回复