חברת OpenAI השיקה גרסה חדשה של ChatGPT המיועדת לבני נוער בגילאי 13 עד 17, עם פתיחת שנת הלימודים באיחוד האמירויות הערביות. מטרת ההשקה היא לספק לבני הנוער כלי עזר ללמידה, תוך שמירה על בטיחותם והגנה מפני תכנים לא ראויים.
הגרסה החדשה של ChatGPT אינה דגם חדש של הבינה המלאכותית, אלא ניסיון לשדרג את החוויה עם מגבלות מחמירות יותר על תוכן רגיש כמו אלימות, פגיעה עצמית והפרעות אכילה. המערכת מיועדת להימנע מלעודד תלות רגשית או להציג את עצמה כישות חושבת או כחבר קרוב.
בנוסף, היא כוללת כלים ללמידה הממוקדים בהסברים שלבים ופתרון חידות, במטרה להקנות לתלמידים מיומנויות למידה עצמאיות יותר. המערכת מזכירה לתלמידים לעבור למצב לימוד כאשר היא מזהה שהם מחפשים תשובות ישירות לעבודות הבית.
אחת מהתכונות המרכזיות בגרסה זו היא האפשרות להורים לקשר את חשבון ChatGPT שלהם לחשבון של ילדיהם. אפשרות זו ניתנת דרך ההגדרות ומאפשרת להורים לשלוט על תכנים מסוימים כמו זיכרון, הפקת קול ותמונות, ומצב לימוד. למרות זאת, להורים אין גישה לשיחות או להיסטוריית הצ'אט, אך OpenAI עשויה לשלוח התראות במקרים של חששות חמורים לפגיעה עצמית.
המערכת מזהה משתמשים צעירים לפי גילם המדווח או לפי מערכת הערכת גיל שפיתחה החברה, ומציעה את החוויה המוגנת יותר. מבוגרים שמזוהים בטעות כצעירים יכולים לאמת את גילם כדי להסיר את ההגבלות.
למרות שמטרת ההשקה היא להגן על בני הנוער, ישנם מומחים המביעים חששות לגבי השפעת הבינה המלאכותית על התפתחותם הרגשית והחברתית של צעירים. ג'ונתן היידט, פסיכולוג חברתי, הביע ביקורת על שימוש ב"בני לוויה" מבוססי AI, מחשש שיחליפו את הקשרים האנושיים האמיתיים.
ג'יימס סטייר, מנכ"ל Common Sense Media, דורש סטנדרטים בטיחותיים שקופים והערכות עצמאיות למוצרים מבוססי AI המיועדים לילדים. ארגון זה פרסם מחקר המראה שכמעט שלושה רבעים מהנערים האמריקאים השתמשו בבני לוויה מבוססי AI.
למרות כל אלה, עדיין נדרשת בדיקה מעמיקה יותר על מנת להבטיח שהמערכת עומדת בציפיות הבטיחות וששומרת על גבולותיה, במיוחד כאשר משתמשים מנסים לעקוף את ההגבלות. OpenAI מבטיחה להמשיך לייעל את המערכת ולבדוק את השפעותיה על התפתחות הנערים לאורך זמן.