חברת OpenAI, המובילה בתחום הבינה המלאכותית, הכריזה על יישום טכנולוגיה חדשה שנועדה להגן על משתמשים צעירים מפני תכנים רגישים או מזיקים בפלטפורמת ChatGPT. החברה מדווחת כי המערכת תנסה להעריך את גיל המשתמשים על סמך התנהגות ותכונות אחרות של חשבונם, כגון משך קיומו וזמני הפעילות שלו. זאת, במטרה להקטין את החשיפה לתכנים שעלולים לפגוע בצעירים.
במקרה של זיהוי שגוי כמתחת לגיל המותר, משתמשים יוכלו לפנות לשירות זיהוי זהות באמצעות טכנולוגיית Persona. שירות זה דורש העלאת תמונת סלפי ושימוש בתעודת זהות ממשלתית. OpenAI מבטיחה כי תשתית זו תאפשר דיוק רב יותר בזיהוי המשתמשים.
ההכרזה על המערכת החדשה נעשתה כחלק מסדרה של שינויים שהחברה מבצעת כדי להתאים את הפלטפורמה לשימוש בטוח יותר עבור צעירים. המטרה המרכזית היא לצמצם את הסיכונים הכרוכים בחשיפה לתכנים כגון אלימות גרפית, תיאורים של פגיעה עצמית, אתגרים ויראליים שעלולים להוביל להתנהגויות מסוכנות, תכנים מיניים או רומנטיים, ותכנים המעודדים סטנדרטים יופי קיצוניים או דיאטות לא בריאות.
הצורך בגבולות חדשים בפלטפורמות אונליין הולך וגובר, במיוחד לאור חוקים חדשים המוצעים במדינות שונות. לדוגמה, חברת Roblox הודיעה לאחרונה על החלת אימות גיל חובה בעקבות ביקורות על בטיחות ילדים בפלטפורמה.
עם זאת, ישנם ספקות בנוגע ליכולת של מערכת ChatGPT לזהות במדויק את גילם של כל המשתמשים, במיוחד כאשר מדובר באוכלוסיה של כ-800 מיליון משתמשים פעילים מדי שבוע. הטכנולוגיה לאימות גיל, אשר קיימת כבר תקופה ארוכה יותר, נחשבת מדויקת יותר.
לדברי ג'ייק פארקר, מנהל בכיר באיגוד תעשיית האבטחה, טכנולוגיות זיהוי פנים וניתוח פנים יכולות להיות מדויקות ביותר אם מיושמות כהלכה. מחקרים מדעיים שבוצעו על ידי המכון הלאומי של ארצות הברית למדע וטכנולוגיה מצביעים על כך שהאלגוריתמים המובילים בתחום הם בעלי דיוק של יותר מ-99.5% לזיהוי זהות, ויותר מ-95% לאומדן גיל.
קריסטין גלוריה, מנהלת תפעול בארגון Young Futures, טוענת כי בעוד שהטכנולוגיה מהווה צעד חשוב, היא אינה פתרון מלא. לדבריה, יש צורך בעיצוב מערכות שמעניקות עדיפות לרווחת הצעירים, תוך מתן דגש על שקיפות ואחריות.
השאיפה היא ליצור סביבות שבהן הבטיחות היא חלק מובנה מהמערכת, ולא רק פתרון טכני או זמני. הדבר מצריך מחויבות להענקת כלים לחינוך לדיגיטל וליצירתיות, כדי להבטיח שהמשתמשים הצעירים יהיו מודעים לסכנות הפוטנציאליות ויוכלו לנהל את השימוש שלהם בטכנולוגיה בצורה בטוחה ואחראית.