מחקר חדש שנערך על ידי צוות פסיכיאטרים מאוניברסיטת אורהוס בדנמרק חושף קשר מדאיג בין שימוש בצ'אטבוטים להחמרת תסמיני מחלות נפש. המחקר, שפורסם בכתב העת המדעי *Acta Psychiatrica Scandinavica*, בחן רשומות בריאות דיגיטליות של כ-54,000 מטופלים דנים עם אבחנות של מחלות נפשיות שונות. במחקר זוהו 181 מקרים שבהם נזכרו צ'אטבוטים בהערות המטופלים, ומצאו כי שימוש ממושך ואינטנסיבי בהם גרם להחמרה בתסמינים של מחלות נפש בעשרות מקרים.
ד"ר סורן דינסן אוסטרגרד, שהוביל את המחקר, ציין כי תסמינים הקשורים להזיות או מנייות במיוחד הוחמרו בעקבות השימוש בצ'אטבוטים. לדבריו, הסיכון עלול להיות "חמור ואף קטלני" לחלק מהמשתמשים. אוסטרגרד, שכבר באוגוסט 2023 חזה כי צ'אטבוטים דמויי אדם עשויים לחזק דלוזיות והזיות באנשים הנוטים לפסיכוזה, הדגיש את הצורך בזהירות בשימוש בטכנולוגיה זו בקרב אנשים עם מחלות נפש חמורות.
המחקר הזה מתווסף לשורה של דיווחים ציבוריים ומחקרים אודות משברים נפשיים הקשורים לאינטראקציות עם AI, תופעה המכונה לעיתים "פסיכוזת AI". תופעה זו מתייחסת למקרים שבהם צ'אטבוטים כמו ChatGPT מחזקים אמונות דלוזיוניות אצל משתמשים, במקום להניא אותם מהן. מחקרים קודמים מראים כי צ'אטבוטים נוטים לאשר אמונות דלוזיוניות, מה שמנוגד להמלצות של מומחים בתחום בריאות הנפש.
המחקר הדני גילה כי מעבר לחיזוק אמונות דלוזיוניות, צ'אטבוטים גם החמירו מצבים כמו מחשבות אובדניות, פגיעה עצמית, דיכאון ותסמינים אובססיביים או כפייתיים. עם זאת, במחקר נמצאו גם 32 מקרים בהם שימוש בצ'אטבוטים לתרפיה או ליווי נמצא מועיל, למשל בהקלת תחושת בדידות או כמסגרת טיפולית תומכת.
המחקר הדגיש את הסכנה בשימוש בצ'אטבוטים כתחליף למטפלים אנושיים, כיוון שטיפול כזה עדיין נמצא מחוץ להסדרה רגולטורית. פרסומים נוספים מצביעים על השלכות שליליות אפשריות של שימוש נרחב בצ'אטבוטים, כגון גירושים, אובדן עבודה, והחרפה במצב כלכלי. כמו כן, קיימות תביעות משפטיות רבות כנגד OpenAI, מפתחת ChatGPT, בנושא זה.
אחד התובעים, ג'ון ז'אקז מקליפורניה, טוען כי השימוש בצ'אטבוט גרם לו להחמרה משמעותית במצבו הפסיכוטי, לאחר שנים של ניהול מוצלח של מצבו הנפשי. הוא מציין כי לו היה יודע על הסיכון, לא היה משתמש בתוכנה. ד"ר אוסטרגרד מציין כי ככל הנראה קיימים מקרים רבים נוספים שלא זוהו.
לסיכום, הממצאים החדשים מדגישים את הצורך בהגברת המודעות לסיכונים הכרוכים בשימוש בצ'אטבוטים בקרב אנשים עם מחלות נפש, ואת החשיבות בפיתוח רגולציה מתאימה לשימוש בטכנולוגיות AI בתחום הבריאות הנפשית.