הצעת חוק חדשה שהוצגה לאחרונה בקונגרס האמריקאי מבקשת להגביל את השימוש של קטינים בצ'אטבוטים מבוססי בינה מלאכותית, מתוך מטרה להגן עליהם מפני השפעות שליליות אפשריות. החוק, המכונה GUARD Act, הוצע על ידי הסנאטורים ג'וש האולי, רפובליקני ממיזורי, וריצ'רד בלומנטל, דמוקרט מקונטיקט, ומשלב כוחות מצדדים פוליטיים שונים למען מטרה משותפת – שמירה על ביטחון הילדים.
החוק נולד בעקבות דיונים שנערכו בסנאט בחודש שעבר, בהם נחשף כי צ'אטבוטים מסוימים מסוגלים להשפיע על רגשות והתנהגויות של קטינים, ולנצל את חוסר הבשלות הרגשית שלהם. במהלך הדיונים, נחשפו עדויות קורעות לב של הורים לקטינים שנפגעו מהשימוש בצ'אטבוטים אלו, כאשר חלקם אף הגיעו לפגיעה עצמית או התאבדות לאחר שימוש באפליקציות כמו OpenAI ו-Character.AI.
החוק מציע דרישה לאימות גיל ממשתמשי הצ'אטבוטים, תוך שימוש בזיהוי ממשלתי או שיטות מסחריות אחרות שיכולות לאמת אם המשתמש הוא בגיר או קטין. בנוסף, החוק מתייחס להיבטים שונים של תכנון והפעלת צ'אטבוטים, ומציע להטיל עונשים כבדים על חברות שתאפשרנה למערכותיהן לעודד התנהגויות מיניות לא הולמות או לגרום לנזק פיזי או נפשי למשתמשים הקטינים.
הצעת החוק זכתה לתמיכה ממספר ארגונים חברתיים, בהם "ברית הנוער" ו"מכון למשפחות וטכנולוגיה", שציינו כי מדובר בצעד ראשון במאבק רחב יותר להגנה על ילדים ונוער בסביבה הדיגיטלית. הם גם הציעו לחזק את ההגדרות הקיימות בחוק ולמנוע מצ'אטבוטים להפעיל תכונות המעודדות מעורבות יתרה של המשתמשים על חשבון בטיחותם הרגשית.
במקביל להצעת החוק הפדרלית, מקדמת מדינת קליפורניה חוקים דומים ברמת המדינה, כאשר מושל קליפורניה, גווין ניוסום, חתם על חוק שמחייב חברות AI לפתח מנגנונים לזיהוי וטיפול במקרים של מצוקה נפשית בקרב משתמשים צעירים.
גם חברות טכנולוגיה מובילות כמו OpenAI מגיבות לשינויים ברגולציה, כאשר החברה הודיעה על פיתוח מערכת לזיהוי גיל שתפנה משתמשים צעירים לגרסה מותאמת של ChatGPT. המערכת החדשה תימנע משיחות פלרטטניות ותמנע דיונים על נושאים כמו התאבדות או פגיעה עצמית. בנוסף, OpenAI הציגה בקרות הורים שיאפשרו להורים לפקח על השימוש של ילדיהם באפליקציה.
הצעת החוק והצעדים הנלווים לה מדגישים את הצורך הדחוף במציאת איזון בין חדשנות טכנולוגית לבין שמירה על בטיחות משתמשים צעירים, תוך הבטחת סביבה דיגיטלית בטוחה ותומכת עבורם.