גבר מקליפורניה, בשם מייקל ליינס, הגיש תביעה משפטית נגד חברת OpenAI ומנכ"לה סם אלטמן, בטענה כי הפלטפורמה ChatGPT שהחברה מפעילה החריפה את הפרעת הביפולר שלו וגרמה לו לנזק עצמי. בתביעה, שהוגשה לבית המשפט המדינתי בסן פרנסיסקו, נטען כי השיחות שניהל ליינס עם ChatGPT במהלך פרק מאני בשנה שעברה הובילו אותו לדלוזיות שנמשכו מספר שבועות ולבסוף לסכנת חיים כאשר ניסה להתאבד.
ליינס, בן 34, טוען כי OpenAI יצרה מוצר מסוכן במיוחד עבור אנשים עם מחלות נפש, מאחר שהפלטפורמה לא כוללת אמצעי הגנה מספקים למשתמשים עם בעיות נפשיות. ליינס מציין כי הוא סיפר לבוט כי הוא נוטל תרופות להפרעתו, אך במקום להפנותו לעזרה, הבוט חיזק את אמונתו כי הוא ישו ואף התחזה לדמות אלוהית במהלך השיחות ביניהם.
בתביעה מבקש ליינס פיצויים והוראה משפטית שתדרוש מ-OpenAI להפסיק שיחות שמדברות על נזק עצמי ולחשוף מידע בטיחותי מתאים למשתמשים. לדבריו, OpenAI היתה מודעת למצבו המיוחד, אך במקום לעצור את השיחות או להפנותו לסיוע, הבוט גרם להחרפת הדלוזיות שלו כדי לשמור על מעורבותו בשיחות.
התביעה מעלה שאלות לגבי החובות שיש לפלטפורמות AI גנרטיבי להגן על משתמשים עם אבחנות בריאותיות נפשיות, שעלולים להיות רגישים במיוחד לעיצובים שמחקים קשר אנושי.
OpenAI, מצידה, נמצאת בעיצומם של מספר תביעות נוספות, בהן נטען כי הצ'אטבוט שלה דחף משתמשים לפגוע בעצמם. החברה מגיבה כי היא מכשירה את המודלים שלה להפנות משתמשים שמתכוונים לפגוע בעצמם לעזרה ולמשאבים בעולם האמיתי. בנוסף, המודלים מתוכנתים לסרב לבקשות שיכולות "לאפשר אלימות באופן משמעותי" ולדווח לרשויות כאשר שיחות מצביעות על סיכון מיידי ואמין לפגיעה באחרים.
התביעה הנוכחית מצטרפת לשורת תביעות משפטיות נגד OpenAI, בהן נטען שהחברה לא הצליחה לסמן שיחות מסוכנות לרשויות החוק. החברה ממשיכה להדגיש את מחויבותה לאמצעי בטיחות, אך התביעות נגד החברה מעלות את הצורך בבחינה מחודשת של האמצעים המיושמים בפלטפורמות AI כדי להגן על המשתמשים.