חשיפת פעילות השפעה איראנית סמוייה
ב-16 באוגוסט 2024, הודיעה OpenAI כי זיהתה והפסיקה פעילות השפעה איראנית סמוייה שהשתמשה ב-ChatGPT כדי לייצר תכנים שמטרתם להשפיע על דעת הקהל, בעיקר בנושאים הקשורים לבחירות לנשיאות ארה"ב. הפעילות, שזוהתה בשם "סערה-2035", התמקדה ביצירת תכנים פוליטיים שהופצו דרך רשתות חברתיות ואתרים שונים, תוך הסוואת הזהות האמיתית של העומדים מאחוריה.
מהלך הפעולה
במהלך החודשים האחרונים, OpenAI הרחיבה את מאמציה לזהות ולמנוע ניצול לרעה של המודלים שלה לצורך השפעות פוליטיות סמויות. כחלק ממאמצים אלו, החברה פיתחה כלים מתקדמים לזיהוי תכנים שנוצרים על ידי בינה מלאכותית ומניעת הפצתם בצורה בלתי חוקית או לא מוסרית.
במסגרת חקירה שהתבצעה השבוע, OpenAI זיהתה קבוצה של חשבונות ChatGPT שעסקו ביצירת תכנים עבור פעילות ההשפעה האיראנית. החברה חסמה את החשבונות הללו והמשיכה לעקוב אחרי ניסיונות נוספים להפר את המדיניות שלה.
ניתוח הפעילות
לפי OpenAI, הפעילות זוהתה ככזו שהייתה ברמת השפעה נמוכה, ללא מעורבות משמעותית של קהל היעד. מרבית הפוסטים שזוהו קיבלו מעט מאוד תגובות או שיתופים ברשתות החברתיות, וגם המאמרים שהופצו לא זכו לשיתוף רחב. בעזרת מדד ה-Brookings' Breakout Scale, שסוקר את ההשפעה של פעילויות השפעה סמויות, נקבע כי הפעילות הייתה בקטגוריה 2 מתוך 6 – פעילות בכמה פלטפורמות, אך ללא השפעה נרחבת.
שיתוף פעולה עם גורמי ממשל ותעשייה
OpenAI ממשיכה לשתף פעולה עם גורמי ממשל, קמפיינים פוליטיים ותעשיות שונות כדי למנוע ניצול לרעה של הפלטפורמות שלה. החברה מדווחת כי במסגרת מאמצים אלו, היא משתפת מידע עם גורמים רלוונטיים כדי להגן על תכנים אינטרנטיים ולמנוע הפצת תכנים פוגעניים או מניפולטיביים.
רוברט תומפסון, מנכ"ל News Corp, ציין כי "כדי שחיפוש מבוסס AI יהיה אפקטיבי, הוא חייב להתבסס על המידע האיכותי ביותר ממקורות מהימנים".
חשיבות מניעת ניצול לרעה
למרות שהפעילות לא השיגה מעורבות רחבה, OpenAI מתייחסת ברצינות לכל ניסיון להשתמש בשירותיה לצורך פעילויות השפעה זרות. החברה ממשיכה לפעול בשיתוף פעולה עם שותפים במגזר הציבורי והפרטי כדי למנוע מקרים דומים בעתיד.
מסקנות לעתיד
OpenAI ממשיכה לפתח כלים וטכנולוגיות חדשות לזיהוי ומניעת ניצול לרעה של הבינה המלאכותית. החברה מתחייבת להמשיך ולשתף את ממצאיה עם הציבור ולקדם שקיפות ושיתוף פעולה בינלאומיים כדי להבטיח שימוש הוגן ואתי בטכנולוגיות AI.
