מחקר חדש שפורסם בכתב העת הרפואי היוקרתי "New England Journal of Medicine" חושף תופעה מפתיעה ומדאיגה: אנשים רבים מעדיפים לקבל עצה רפואית מבינה מלאכותית על פני רופאים אנושיים, למרות שהמידע שמספקים הרובוטים עלול להיות שגוי ומסוכן.
במחקר, שנערך על ידי חוקרים מהמכון הטכנולוגי של מסצ'וסטס (MIT), השתתפו 300 אנשים שהתבקשו להעריך תשובות רפואיות שנכתבו או על ידי רופא אנושי, או על ידי פלטפורמות בריאות מקוונות, או על ידי מודלים של בינה מלאכותית כמו ChatGPT. הממצאים מראים כי המשתתפים, הן מומחים והן אנשים ללא ידע רפואי קודם, דירגו את התשובות שניתנו על ידי הבינה המלאכותית כמדויקות, אמינות ומלאות יותר מהתשובות האנושיות.
למרות ההמלצות המוטעות שניתנו על ידי רובוטים, המשתתפים נטו להאמין להן ואף לפעול לפיהן, מה שעלול להוביל לפגיעה בריאותית חמורה. במחקר נחשפו מקרים שבהם אנשים ניזוקו בעקבות המלצות בעייתיות של רובוטים רפואיים. אחד המקרים שפורסמו מתאר אדם בן 35 ממרוקו שעקף את ההמלצה של צ'אטבוט לעטוף גומיות סביב טחורים, מה שגרם לו להגיע לחדר המיון. במקרה נוסף, אדם בן 60 הורעל לאחר ש-ChatGPT המליץ לו לאכול ברומיד הנתרן, חומר המשמש לעיתים לחיטוי בריכות שחייה, כדי להפחית את צריכת המלח שלו. האיש אושפז במשך שלושה שבועות וסבל מפרנויה והזיות.
אחד החוקרים, ד"ר דארן לבל, הזהיר כי ההמלצות שמספקות תוכנות הבינה המלאכותית אינן מבוססות על מחקרים מדעיים אמיתיים. "כ-25% מהן הן פשוט המצאות", הוא ציין.
סקר שנערך לאחרונה מצביע על כך שכ-40% מהנשאלים סומכים על עצות רפואיות שניתנות על ידי בוטים כמו ChatGPT. התופעה מדגישה את הצורך בהגברת המודעות לסכנות האפשריות הכרוכות בשימוש במערכות בינה מלאכותית בתחום הרפואה.
בעולם שבו הטכנולוגיה תופסת מקום הולך וגדל בחיינו, חשוב להמשיך ולבחון את ההשלכות של השימוש בה, במיוחד כשמדובר בבריאות הציבור. המחקר הנוכחי מעלה שאלות בנוגע לאמינות ולביטחון של מערכות בינה מלאכותית, ומציג אתגר משמעותי למערכות הבריאות ולרגולטורים בתחום.
העובדה שאנשים מתקשים להבחין בין עצות רפואיות שניתנו על ידי בינה מלאכותית לבין אלה שניתנו על ידי רופאים אמיתיים, מצביעה על הצורך בחינוך הציבור ובשיפור הכלים הטכנולוגיים כדי למנוע מקרים של נזק בריאותי. הטכנולוגיה מציעה פוטנציאל רב לשיפור שירותי הבריאות, אך יש לוודא שהיא משמשת ככלי עזר ולא כתחליף לרופא המומחה.