גבר בן 60 אושפז בבית חולים לאחר שהחליט להחליף מלח שולחן בחומר כימי מסוכן בעקבות עצת דיאטה שהתקבלה מצ'אטבוט הבינה המלאכותית, ChatGPT. המקרה, שפורסם במחקר בכתב העת Annals of Internal Medicine, מדגיש את הסיכונים הכרוכים בהסתמכות על מערכות בינה מלאכותית למידע רפואי.
הגבר ביקש להוריד כמות המלח בתזונה שלו ופנה לצ'אטבוט כדי לקבל המלצה לחלופה למלח, או נתרן כלורי. הצ'אטבוט הציע לו להשתמש בנתרן ברומיד, תרכובת שבעבר שימשה בתעשיית התרופות והייצור. למרות שהרופאים לא הצליחו לעיין בשיחות המקוריות עם הבוט, נראה שההמלצה ניתנה בהקשר שונה, אולי לשימושים תעשייתיים או אחרים.
בהמשך לשימוש בתרכובת במשך שלושה חודשים, הגיע האיש למיון כשהוא סובל מדלוזיות פרנואידיות, למרות שלא היו לו בעיות נפשיות בעבר. הוא היה משוכנע ששכנו מרעיל אותו, וסירב לשתות מים בבית החולים למרות צמא חמור. מצבו החמיר והוא סבל מהפרעות שמיעה וראייה, ובשלב מסוים נדרש להחזיקו במחלקה פסיכיאטרית לאחר שניסה לברוח במהלך הטיפול.
הרופאים אבחנו כי האיש סובל מרעילות ברומיד, מצב הגורם לתסמינים נוירולוגיים ופסיכיאטריים, כולל עייפות, נדודי שינה, אטקסיה קלה וצימאון יתר. בעבר, רעילות ברומיד הייתה נפוצה יותר בשל השימוש במלחים אלו במוצרים יומיומיים, אך השימוש בהם פסק בשנות ה-70 וה-80 לאחר שיפור הרגולציה.
האיש טופל במשך שלושה שבועות בבית החולים, ובמהלך הזמן הזה מצבו השתפר בהדרגה. המקרה עורר דיון על השימוש בבינה מלאכותית למתן מידע רפואי, ואנשי המקצוע הביעו חשש מהפוטנציאל להפצת מידע שגוי וחסר הקשר.
חברת OpenAI, החברה מאחורי צ'אט גיפיטי, הצהירה כי המערכת אינה מיועדת לשמש תחליף לייעוץ מקצועי רפואי, והדגישה כי היא פועלת על מנת לצמצם סיכונים ולכוון את המשתמשים לפנות לייעוץ מקצועי במידת הצורך.
הרופאים שהיו מעורבים במחקר ציינו כי יש להיזהר מהסתמכות על בינה מלאכותית במתן מידע רפואי, במיוחד כאשר מדובר בנושאים קריטיים לבריאות הציבור. לדבריהם, מצב זה מדגיש את החשיבות של פנייה למומחים מוסמכים בקבלת החלטות בריאותיות. המחקר ממחיש את הצורך בפיתוח מערכות בינה מלאכותית עם יכולת להבחין בהקשרים רפואיים ולהימנע מהפצת מידע שגוי.