בזמן שאינטליגנציה מלאכותית ממשיכה להשתלב בחיי היומיום שלנו, מהשלמת מטלות בית ספר ועד מחקר במקום העבודה, רבים פונים לכלים כמו ChatGPT, Gemini, Claude ו-Grok על מנת לבדוק את אמיתותם של סיפורי חדשות. אולם, מחקר חדש מציע שהרגל זה עלול דווקא להחליש את יכולתנו לזהות מידע מוטעה לאורך זמן.
מחקר שבוצע במעבדת המדיה של MIT מצביע על כך שהסתמכות על אינטליגנציה מלאכותית לקביעת מידת הדיוק של חדשות עלולה להפחית את יכולתנו לזהות תוכן מזויף או מטעה בעצמנו. החוקרים השוו את התופעה הזו לשימוש במערכות ניווט GPS, שמקלות על ההתמצאות אך עלולות להחליש את חוש הניווט הטבעי שלנו. כך גם, כלים מבוססי AI עשויים להקל על בדיקת העובדות אך במקביל להחליש את כישורי החשיבה הביקורתית שלנו.
המחקר מתפרסם בזמן שבו חיפושים מבוססי AI ובוטים הופכים להיות חלופות פופולריות למנועי החיפוש המסורתיים. ככל שסיכומים שנוצרים על ידי AI הופכים לנפוצים יותר ברשת, השאלות לגבי דיוקם, הטייתם והסתמכות יתר עליהם הופכות לקשות להתעלמות.
לפי החוקרים ב-MIT, משתתפים שהסתמכו רבות על עזרה מה-AI הפכו לפחות מסוגלים להעריך את אמינותם של סיפורי חדשות בעצמם. החשש אינו רק שה-AI עשוי לטעות מדי פעם, אלא שהמשתמשים עלולים להתחיל להסתמך על השיפוט של הטכנולוגיה במקום להעריך את המידע באופן פעיל בעצמם.
החשש הזה מתעצם לאור מחקרים הולכים ומתרבים הבוחנים את תפקיד ה-AI בבדיקת עובדות. מחקרים קודמים מצאו כי דגמים גדולים של שפה (LLMs) מתקשים לעיתים קרובות לאמת מידע באופן עקבי, במיוחד כאשר מדובר בנושאים מורכבים, טענות פוליטיות או אירועי חדשות שמתעדכנים במהירות. חוקרים גם ציינו שונות משמעותית בביצועים בין דגמי AI שונים ובתחומים שונים.
אתגר נוסף הוא ש-AI לעיתים קרובות מציג תשובות בביטחון, גם כאשר התשובות הללו אינן מלאות או נכונות. הדבר עלול ליצור תחושת אמון כוזבת, במיוחד כאשר משתמשים מתייחסים לבוטים כמקורות סמכותיים במקום כעוזרים שעדיין דורשים אימות.
החוקרים ב-MIT טוענים שבעוד ש-AI יכול לסייע בסיכום מידע או בהבאת הקשר רלוונטי, אין הוא צריך להחליף הערכה עצמאית וכישורי אוריינות מדיה. הבעיה הרחבה יותר שמודגשת במחקר היא תלות. אם משתמשים ילכו ויתבססו על AI לקביעת מה נכון, הם עלולים לאבד את המיומנות להעריך מקורות, לבדוק ראיות ולזהות נרטיבים מטעים בעצמם.
הסיכון הזה נעשה חשוב במיוחד ככל שכלי AI משתלבים במנועי חיפוש, בפלטפורמות מדיה חברתית, בדפדפנים ובמערכות הפעלה. במקום להשוות בין מקורות מרובים באופן פעיל, משתמשים עשויים להתפתות לקבל את תשובת הבוט כאמת סופית.
החוקרים לא מציעים של-AI אין תפקיד בבדיקת עובדות. במקרים רבים, AI יכול לסייע למשתמשים לאסוף מידע במהירות, לסכם נושאים מורכבים או לזהות מקורות נוספים שראויים לבדיקה. עם זאת, המחקר מציע שהתוצאות הטובות ביותר מתקבלות כאשר ה-AI משמש כעוזר מחקר ולא כתחליף לשיפוט האנושי.
המסר ברור: ה-AI יכול לסייע לכם לחקור את החדשות, אך ייתכן שהוא אינו הכלי הטוב ביותר לקבוע מה נכון עבורכם. ככל שהבוטים הופכים לחזקים ומשכנעים יותר, שמירה על ספקנות בריאה עשויה להיות חשובה לא פחות מאשר גישה לטכנולוגיה עצמה.