Seorang pria berusia 60 tahun di Amerika Serikat harus menjalani perawatan di rumah sakit karena keracunan oleh diet yang direkomendasikan oleh ChatGPT. Kasus ini memiliki efek serius pada kesehatan pria tersebut setelah mengonsumsi natrium bromida sebagai alternatif garam dapur. Gejala yang dialami termasuk kelelahan, insomnia, gangguan koordinasi, jerawat, dan rasa haus berlebihan yang diketahui sebagai bromisme. Pria tersebut bahkan menunjukkan tanda-tanda gangguan kejiwaan seperti paranoia dan halusinasi visual serta pendengaran. Setelah dirawat dengan cairan infus, elektrolit, dan obat antipsikotik, ia akhirnya pulang setelah tiga pekan perawatan intensif.
Para peneliti menyoroti risiko penggunaan ChatGPT atau sistem kecerdasan buatan lainnya untuk nasihat medis. Mereka mencatat bahwa dokter manusia tidak akan pernah merekomendasikan natrium bromida sebagai pengganti garam dapur. CEO Centivax, dr Jacob Glanville, menekankan bahwa ChatGPT bukan pengganti dokter dan pengguna harus menggunakan logika saat bertanya atau mengikuti saran. Spesialis gawat darurat dan pakar AI, dr Harvey Castro, menyoroti pentingnya konteks dalam memberikan saran kesehatan dan bahwa AI tidak menggantikan penilaian medis profesional. Kasus ini menjadi peringatan bahwa penilaian medis manusia tetap tak tergantikan oleh kecerdasan buatan.
