נער בן 13 מפלורידה נעצר לאחר שניסה להשתמש ב-ChatGPT כדי לשאול כיצד להרוג את חברו. האירוע התרחש בבית הספר התיכון Southwestern בעיר דלנד, צפונית לאורלנדו, כאשר התלמיד השתמש במחשב נייד של בית הספר כדי להגיש את השאלה המטרידה באמצעות הצ'אטבוט.
מערכת אבטחה מתקדמת בשם Gaggle, המשתמשת בבינה מלאכותית, זיהתה את השאלה והעבירה התרעה מיידית לקצין המשטרה הממונה על ביטחון הקמפוס. הקצין פעל במהירות ועצר את התלמיד, שנמצא בבית הספר. התקרית הובילה למעצרו של הנער ולהובלתו למעצר מקומי, כאשר הוא מצולם עוזב את ניידת המשטרה באזיקים, תמונה שהפכה לוויראלית ברשתות החברתיות.
הנער טען שהכול היה בדיחה, אך הרשויות לא ראו זאת כעניין קל ערך, במיוחד בהתחשב בהיסטוריה הטרגית של אירועי ירי בבתי ספר בארצות הברית. דוגמא טראגית לכך היא הטבח בתיכון מרג'ורי סטונמן דאגלס בפלורידה, בו נהרגו 17 בני אדם.
הרשויות מדגישות את הצורך בהורים לדבר עם הילדים שלהם על הסכנות הפוטנציאליות הכרוכות בשימוש בלתי הולם בטכנולוגיה ובפלטפורמות כמו ChatGPT. "בדיחה אחת יכולה להפוך למצב חירום בבית הספר", אמרו במשטרת המחוז.
מערכת Gaggle, שמשמשת ככלי לאיתור מוקדם של התנהגויות מדאיגות, זכתה לשבחים על יעילותה, אך ספגה גם ביקורת על כך שהיא עלולה ליצור תחושת מדינה תחת מעקב בתוך בתי הספר. ביקורות אלו מעלות שאלות על האיזון בין שמירה על בטיחות התלמידים לבין שמירה על פרטיותם.
האירוע הנוכחי מעלה לדיון ציבורי את השאלות המורכבות הקשורות בשימוש בטכנולוגיות מתקדמות ובינה מלאכותית במערכת החינוך, ואת האופן שבו הן יכולות להשפיע על חייהם של תלמידים, הן בהיבט הבטיחותי והן בהיבט הפרטיותי. עם זאת, המקרה ממחיש גם את הצורך בחינוך טכנולוגי והבנה של הסכנות והיתרונות שבשימוש בכלים אלו. הרשויות קוראות להורים להקדיש תשומת לב למה שילדיהם עושים ברשת, ולדבר איתם על הסכנות האפשריות שבשימוש לא זהיר בטכנולוגיה.
האירוע הזה מדגיש את החשיבות של חינוך תלמידים לשימוש אחראי בטכנולוגיה, תוך שימת דגש על אתיקה ומודעות לסביבה הדיגיטלית המורכבת בה הם פועלים. עולם החינוך צריך להמשיך ולהתעדכן בטכנולוגיות החדשות ובאופן שבו הן משפיעות על חיי היומיום של תלמידים, כדי להבטיח שהם יוכלו לפעול בהן בבטחה ובאחריות.