מחקר חדש שפורסם על ידי חוקרים מבית הספר לניהול של MIT חושף כי מודלים גדולים של שפה, המניעים את רוב הצ'אטבוטים הפופולריים כמו ChatGPT, עלולים לעוות את התפיסות הציבוריות על חופש העיתונות ומוסדות דמוקרטיים אחרים. המחקר בחן שישה מודלים נפוצים של שפה, בהם ChatGPT, Gemini ו-DeepSeek, וגילה כי הם נוטים להציג את מצב חופש העיתונות במדינות שונות בצורה פחות חיובית מהמציאות המדווחת על ידי גופים עצמאיים כגון מדד חופש העיתונות העולמי שמפרסם ארגון עיתונאים ללא גבולות.
הממצאים מצביעים על כך שמודלים אלה מציעים הערכות שליליות יותר על חופש העיתונות ב-97% מהמדינות שנבדקו, כולל במדינות שבהן חופש העיתונות הוא גבוהה יחסית. תופעה זו עלולה להשפיע על איך שהמשתמשים תופסים את זכויות האזרח והחופש העיתונאי בעולם.
אחד ממחברי הדו"ח, איזבלה לואיזה, ציינה כי למודלים אלו יש מיליוני משתמשים ברחבי העולם, ולכן יש להם פוטנציאל לעוות את תפיסות הציבור על זכויות אזרח והחופש ממנו נהנים עיתונאים במדינות שונות. מחקר ה-MIT גילה גם כי למודלים יש נטייה טבעית להטיה פנימית, כאשר הם נותנים הערכות יותר ביקורתיות למדינות עם דירוגים היסטוריים גבוהים של חופש עיתונות, ובמקביל מציגים הערכות חיוביות יותר על מדינות הבית שלהם או מדינות דומות.
הבעיה נעוצה בנתוני האימון של מודלים אלו. בחברות עם חופש עיתונות גדול יותר, יש יותר ביקורת על מדיניות הממשלות, מה שמוביל לסיקור שלילי יותר שנכנס לנתוני האימון. לעומת זאת, במדינות עם מערכות מדיה מוגבלות, הדיווחים הביקורתיים נדחקים, מה שגורם להטיית נתונים בתגובות הצ'אטבוטים.
לואיזה הסבירה כי ההטיות במודלים נובעות משני כיוונים – אחת היא הורדת ערכי חופש העיתונות והשניה היא הביקורת החזקה יותר כלפי מדינות חופשיות יותר. הממצאים מראים כי מודלים שונים מציגים הטיות בכיוונים שונים, מה שמקשה על זיהוי ההטיות.
בנוסף, המחקר מעורר שאלות על השימוש הגובר בבינה מלאכותית בהערכות רשמיות, כולל באירגונים בינלאומיים כמו האומות המאוחדות, ומעמיד בספק את אמינותם ככלים להערכת זכויות אדם ואזרח עולמיות.
החוקרים מזהירים כי ההטיות הללו עלולות להקטין את הדיווח על הגבלות עיתונאיות במדינות סמכותניות יותר, ובכך לתת למדינות עשירות ולמפתחים כלים להקרין "כוח רך" במירוץ הבינה המלאכותית העולמי. בהתחשב בהשפעה הגוברת של מערכות אלו ככלים תרבותיים וגיאופוליטיים, יש צורך לוודא שהן מציגות ייצוגים מדויקים של מוסדות דמוקרטיים, כמו העיתונות וזכויות אדם ואזרח.
שותף לכתיבת הדו"ח, רוברטו ריגובון, הדגיש את החשיבות של הגישה למידע אמין על מצבם ובריאותם של המוסדות הדמוקרטיים, ואמר כי זהו קריטי להשתתפות אזרחית.