הטכנולוגיה המתקדמת בעידן המודרני מציגה אתגרים רבים, במיוחד בתחום הבינה המלאכותית והשימוש בה לתכנון פעולות אלימות. אירוע חריג התרחש בלס וגאס, כאשר אדם בשם מתיו ליבסברגר התפוצץ ברכבו מחוץ למלון טראמפ, לאחר שהשתמש בצ'אטבוט של OpenAI, ChatGPT, לתכנון המתקפה. ליבסברגר, חייל מקולורדו, פנה לצ'אטבוט מספר ימים לפני האירוע ושאל שאלות על חומרי נפץ וגזעים שונים של כלי נשק.
השימוש בצ'אטבוטים כמו ChatGPT מעלה שאלות לגבי חובת הזהירות של חברות טכנולוגיה במקרים בהם משתמשים מתכננים פעולות אלימות. על אף שהטכנולוגיה מתיימרת להגיע לרמת אינטליגנציה דוקטורטית, המקרה בלס וגאס הדגים את חוסר היכולת של הצ'אטבוט לזהות כוונות זדוניות ולעצור את המתקפה בזמן.
מקרה נוסף שהתרחש בקנדה העלה שוב את הדילמה. ג'סי ואן רוטסלאר, משתמש קנדי שדיבר עם ChatGPT על אלימות בנשק, עורר חשש אצל OpenAI, אך לא דווח למשטרה בשל היעדר תוכנית מיידית ומסוכנת. מאוחר יותר, ואן רוטסלאר הרג שמונה אנשים בקנדה, כולל ילדים בבית ספר, מה שהעלה ביקורת על OpenAI על כך שלא הזהירה את הרשויות מוקדם יותר.
מומחים בתחום טוענים כי יש להטיל חובת דיווח על חברות טכנולוגיה בדומה לחובת הדיווח של מטפלים פסיכולוגיים במקרה של סכנה פוטנציאלית. החברות צריכות למצוא את האיזון בין שמירה על פרטיות המשתמשים לבין הגנה על הציבור מפני איומים אפשריים.
האתגר המרכזי הוא זיהוי איומים אמיתיים על פי התקשורת עם הצ'אטבוטים, במיוחד כאשר השימוש בהם נעשה בצורה אינטימית יותר מאשר חיפוש בגוגל. על אף שניתן לזהות איומים בצ'אטבוטים בצורה קלה יותר, עדיין קיימת סכנה של זיהוי שגוי, במיוחד במקרים של כתיבה פיקטיבית או ניסיונות לבדוק את יכולות הצ'אטבוט.
הדיון סביב הנושא מתמקד בשאלה האם חברות טכנולוגיה צריכות לדווח על תוכן חשוד לרשויות החוק, כמו שבנקים מדווחים על עסקאות פיננסיות חשודות. יש החוששים כי דיווח יתר יעמיס על רשויות האכיפה ויוביל לחקירות מיותרות.
הצורך בהגנה על הציבור מפני איומים אמיתיים מול הצורך לשמור על פרטיות המשתמשים ממשיך להיות נושא לדיון ציבורי וחוקי. חברות טכנולוגיה נדרשות למצוא את האיזון הנכון ולפתח מערכות שיזהו איומים בצורה מדויקת יותר, תוך שמירה על זכויות הפרט של המשתמשים. השאלה היא האם החקיקה תצליח להדביק את קצב ההתפתחות של הטכנולוגיה, וכיצד ניתן יהיה להבטיח שימוש בטוח ומבוקר יותר בבינה מלאכותית בעתיד.