חברת OpenAI דיווחה על מבצע תעמולה רוסי שהצליח להטעות בתי ספר, פוליטיקאים וגופי תקשורת במספר מדינות, תוך שימוש בטכנולוגיית ChatGPT. לפי הדו"ח שפרסמה החברה, מדובר באחת מהפעולות המשפיעות והרחבות ביותר שנחשפו והופסקו על ידה עד כה.
הקמפיין התמקד בעיקר באזור אמריקה הלטינית ובכמה מדינות באירופה, שם הוא הצליח לעורר מתיחויות פוליטיות ואף הוביל לתגובות מצד גורמים פוליטיים בכירים. המסר המרכזי של המידע המוטעה היה לעורר מחלוקות בין אוקראינה לפולין, ולהשפיע על דעת הקהל במדינות השונות.
הדו"ח מציין כי הקמפיין הרוסי עשה שימוש מתקדם ביכולות של ChatGPT כדי ליצור תוכן שנראה אמין ומבוסס עובדות, ובכך להטעות את הקוראים לחשוב שמדובר במידע מהימן. עדויות לכך נמצאו במערכת החינוך, כאשר בתי ספר מסוימים באמריקה הלטינית השתמשו במידע שהועבר אליהם כחלק מתוכניות הלימוד.
התעמולה הצליחה לחדור גם אל תוך כלי התקשורת, שם פורסמו מספר כתבות שהתבססו על המידע הכוזב. גופי התקשורת הללו לא היו מודעים לכך שהם מפיצים מידע שגוי, מה שהגביר את היקף ההשפעה של הקמפיין.
ב-OpenAI הוסיפו, כי חשיפת המבצע התאפשרה בזכות מערכת בינה מלאכותית שפיתחה החברה, המאפשרת לזהות דפוסי פעילות חריגים ולהתריע עליהם. המערכת הצליחה לזהות את המקור הרוסי של התעמולה ולחשוף את המנגנון המורכב שעמד מאחוריה.
החדירה של טכנולוגיות בינה מלאכותית לשימושים פוליטיים ותעמולתיים מהווה אתגר משמעותי עבור הקהילה הבינלאומית. גורמים רבים הביעו דאגה מכך שמדינות עוינות יכולות לנצל את הטכנולוגיות הללו כדי לערער יציבות פוליטית ולהשפיע על מערכות בחירות.
הפעולה של OpenAI היא חלק ממאמץ גלובלי למנוע את השימוש לרעה בטכנולוגיות בינה מלאכותית ולשמור על שקיפות ואמינות המידע המופץ ברשת. החברה קוראת לממשלות ולארגונים בינלאומיים לשתף פעולה ולפתח כלים שיאפשרו לזהות ולמנוע תעמולה דומה בעתיד.
כחלק מהמאמצים המתמשכים, OpenAI משתפת פעולה עם גופים שונים כדי לפתח סטנדרטים גלובליים לשימוש אחראי בטכנולוגיות בינה מלאכותית. החברה שואפת ליצור מסגרת פעולה שתאפשר למנוע ניצול לרעה ולשמור על זכויות הפרט והחברה.
האירועים האחרונים מדגישים את הצורך הדחוף בפיתוח כלים וטכנולוגיות שיאפשרו לשמור על המידע ברשת מהימן ומדויק. במקביל, יש לפעול לחינוך הציבור לזהות מידע מוטעה ולהגביר את המודעות לסכנות הנובעות מתעמולה דיגיטלית.
המאבק לשמירה על תקשורת חופשית ואמינה נמשך, כאשר חברות טכנולוגיה וממשלות עושות מאמצים להגן על הציבור מפני ניצול לרעה של טכנולוגיות מתקדמות. OpenAI ממשיכה לפעול לקידום מטרות אלו, בתקווה לשמור על שקיפות וביטחון במידע המופץ באמצעי התקשורת השונים.