隨著 ChatGPT 不斷發展成為一項必不可少的工具，許多人越來越依賴它，不僅用於日常任務，也用於處理個人敏感問題。一些案例表明，這種依賴導致了嚴重的後果，例如，由於人工智慧的洞察無意中揭露了不忠行為，導致婚姻破裂。令人擔憂的是，有些人甚至向聊天機器人尋求治療支援——山姆·奧特曼曾明確警告這種做法。最近，一起令人擔憂的事件揭示了使用人工智慧提供健康建議的風險。據報道，一名來自紐約的 60 歲男子因遵循 ChatGPT 提供的飲食建議而患上了一種罕見且危險的疾病。
人工智慧健康提示的隱患：溴中毒和過火的代鹽
持續不斷的討論告誡人們不要過度依賴人工智慧系統，最近美國一家醫學雜誌發布了一份警告，明確警告人們不要向 ChatGPT 尋求醫療建議。根據NBC 新聞報道，此前發生了一起嚴重的健康事件，一名男子在聽取了聊天機器人的飲食建議後病倒了。 《內科醫學年鑑》發表的一篇深入案例研究記錄了這名男子在聽取人工智慧的建議後如何患上溴中毒（一種溴化物中毒）。
這名男子錯誤地決定用他在網路上發現的一種化學物質溴化鈉代替普通食鹽（氯化鈉）。在ChatGPT上諮詢鹽的替代品後，他誤以為溴化鈉是更健康的選擇。在三個月的時間裡，他每天都攝取這種有毒物質，最終導致了嚴重的健康問題，例如偏執、失眠和精神病。他甚至一度認為鄰居試圖毒害他。
入院後，醫護人員診斷他患有溴中毒，這是一種因過度接觸溴化物而引起的疾病。幸運的是，在停止攝取溴化物並接受適當治療後，患者的病情開始好轉。雖然由於溴化物鹽的使用頻率較低，如今溴中毒病例已很少見，但此次事件凸顯了在沒有充分監管的情況下從網上獲取毒品的潛在危險。
這位男士的經驗提醒我們，在使用人工智慧進行健康相關諮詢時務必謹慎。研究人員調查了 ChatGPT 是否正確地將溴化物識別為鹽替代品，並確認它確實做到了這一點，而且沒有發出任何關於溴化物潛在毒性的警告。鑑於人工智慧無法複製人類醫療專業人員的專業知識和責任感，這種缺乏謹慎的做法尤其令人擔憂。
鑑於這些事件，人工智慧模型顯然必須配備更強大的安全措施，尤其是在敏感的健康問題上。在當今人工智慧工具氾濫的時代，好奇心與謹慎之間必須保持平衡，對人工智慧的依賴絕不能取代專業的醫療建議。
發佈留言