בפלורידה, מגישים תביעה פורצת דרך נגד חברת OpenAI ומנכ"ל החברה, סם אלטמן, בטענה כי התוכנה ChatGPT תרמה לטרגדיות כמו ירי המוני, התאבדויות והתמכרות בקרב צעירים. התביעה, המתפרסת על פני 83 עמודים, טוענת כי החברה העדיפה את הצמיחה העסקית על פני הבטיחות, למרות שהייתה מודעת לסיכונים הכרוכים בשימוש בטכנולוגיה זו. מקרה הירי באוניברסיטת פלורידה סטייט, שבו נהרגו שני אנשים, עומד במרכז החקירה הפלילית הנוכחית, והחקירה נמשכת בניסיון לקבוע אם התוכנה שיחקה תפקיד במעשה.
לטענת התביעה, משתמשים פנו ל-ChatGPT לפני שביצעו מעשים פליליים שונים, כולל פגיעה עצמית ויצירת פורנוגרפיה של ילדים. התביעה האזרחית שהוגשה כעת היא הרחבה של חקירה פלילית שהחלה באפריל, ובמסגרתה נבדקו רשומות הצ'אט בין היורה לבין התוכנה. משפחות הקורבנות הגישו תביעה נוספת בטענה כי החברה אחראית לטרגדיה.
המקרה בפלורידה אינו היחיד; חברת OpenAI מתמודדת עם תביעות נוספות במספר מדינות. בקנדה, משפחות שבעה קורבנות מהירי ההמוני בטאמבלר רידג' הגישו תביעה בפברואר, בטענה שהיורה השתמש ב-ChatGPT לתכנון המתקפה. גם בקליפורניה, הורים של נער שהתאבד טוענים כי התוכנה סיפקה מידע מפורט על שיטות התאבדות.
בעוד החברה מכחישה את ההאשמות וטוענת כי התוכנה אינה קשורה לאירועים אלימים או לפגיעה עצמית, היא נקטה בצעדים לשיפור בטיחות המשתמשים, כולל הוספת פיקוח הורי. נציג החברה ציין כי הם ממשיכים לשפר את היכולת של המודלים לזהות ולהגיב לסימני מצוקה נפשית ורגשית.
סם אלטמן ניצב כעת מול אתגר משפטי משמעותי, לאחר שכבר הפסיד בתביעה שהגיש אילון מאסק נגד OpenAI, בטענה שהחברה נטשה את מחויבותה להישאר מלכ"ר והתמקדה יותר במבנה עסקי רווחי. בפסק הדין האחרון בתביעה זו, נקבע שמאסק המתין זמן רב מדי להגשת התביעה. למרות זאת, התביעה בפלורידה מעבירה מסר ברור לחברות טכנולוגיה: אי אפשר להתעלם מהאזהרות הבטיחותיות; יש לשים את בטיחות הציבור מעל לרווחים כלכליים.
המאבק המשפטי הזה עשוי להוות נקודת מפנה באחריות חברות הטכנולוגיה על השפעת מוצריהן על החברה. משפחות הקורבנות, שדורשות תשובות וצדק, מקוות כי המקרה יוביל לשינוי במדיניות הבטיחות של חברות טכנולוגיה, וימנע טרגדיות דומות בעתיד. הטכנולוגיה אמנם מציעה הזדמנויות רבות, אך היא גם דורשת אחריות ופיקוח כדי להבטיח את שלומם של המשתמשים, במיוחד אלו הפגיעים ביותר.