חברת OpenAI, המובילה בתחום הבינה המלאכותית, מתכננת לשחרר את המגבלות על התכנים שצ'אטבוט ChatGPT יכול לייצר, כך שהשירות יוכל להפיק תוכן "ארוטי" עבור משתמשים מאומתים שיבקשו זאת, כך הודיע מנכ"ל החברה, סם אלטמן. ההכרזה החדשה מגיעה לאחר שבוצעו שיפורים בתחום הבריאות הנפשית וכלים חדשים פותחו כדי להתמודד עם המגבלות הקודמות. אלטמן הסביר כי השינויים מתוכננים לצאת לפועל תוך מספר שבועות, והם יאפשרו למשתמשים להגדיר אישיות של הצ'אטבוט שתתאים להעדפותיהם האישיות.
אלטמן הדגיש כי האפשרות החדשה תהיה זמינה רק למשתמשים שיבקשו אותה במפורש, והבהיר כי החברה מתייחסת למבוגרים כאל מבוגרים בכל הנוגע לשימוש בטכנולוגיה זו. הוא הוסיף כי החברה פועלת כדי להבטיח שהצ'אטבוט יתפקד בצורה אנושית יותר, כולל שימוש באמוג'ים והתנהגות ידידותית יותר, בהתאם לבקשת המשתמשים.
ההחלטה לשחרר את המגבלות על תכנים למבוגרים מגיעה בזמן שחברת OpenAI מיישמת צעדים חדשים להגנה על בני נוער המשתמשים בצ'אטבוט. החברה הציגה תכונות חדשות שמטרתן ליצור חווית שימוש בטוחה יותר לבני נוער, כולל אפשרות להורים לקשר את חשבונם לחשבון של בנם או בתם, לשלוט בהתנהגות הצ'אטבוט בהתאם לגיל המשתמש, ולנהל את הפונקציות הזמינות, כולל זיכרון והיסטוריית שיחות.
במסגרת תכנית ההגנה על בני הנוער, OpenAI מתכננת לשדרג את מערכת ההתראות להורים כאשר המערכת מזהה מצבי מצוקה חריפים אצל המשתמשים הצעירים. במקרה של משתמשים מתחת לגיל 18 שחווים מחשבות אובדניות, החברה תנסה ליצור קשר עם הוריהם ובמקרה של סכנה מיידית, יופנו הרשויות המתאימות.
ההחלטות החדשות של OpenAI מדגישות את המחויבות שלה לאיזון בין חופש המידע לבין בטיחות המשתמשים, במיוחד בני נוער, בעולם הטכנולוגי המתפתח במהירות. החברה ממשיכה לפתח את הצ'אטבוט שלה כך שיתמוך במגוון רחב של צרכים והעדפות, תוך שמירה על סטנדרטים גבוהים של אתיקה ובטיחות.