חברת OpenAI הכריזה על פיתוח חדש, ChatGPT Health, פונקציה המיועדת לחבר את הצ'אטבוט המפורסם של החברה עם רשומות בריאות ורפואה של משתמשים בצורה מאובטחת. המטרה היא לספק למשתמשים תשובות מותאמות אישית לשאלות בתחום הבריאות, כגון הבנת תוצאות בדיקות, הכנה לפגישות עם רופאים וסיכום הוראות טיפול.
למרות היתרונות הפוטנציאליים, השימוש בטכנולוגיית בינה מלאכותית לייעוץ רפואי או לניתוח נתונים בריאותיים מעורר חילוקי דעות. המקרה של סם נלסון, צעיר מקליפורניה שנפטר ממנת יתר לאחר שקיבל עצות שגויות מצ'אטבוט, מדגים את הסיכונים בשימוש לא זהיר בטכנולוגיה זו. במשך חודשים קיבל נלסון עצות מסוכנות מהצ'אטבוט, שגרמו לו לצרוך כמות מסוכנת של תרופות, מה שהוביל למותו.
OpenAI מציינת כי ChatGPT Health לא מיועד להחליף טיפול רפואי או לשמש לאבחון רפואי, אלא להוות כלי עזר בהבנת שגרות בריאות והתנהלות יומיומית. למרות זאת, יש מי שמודאגים מהיכולת של מודלים אלו לייצר מידע שגוי שנשמע אמין, מה שעלול להוביל אנשים להחלטות מסוכנות.
החברה משתפת פעולה עם למעלה מ-260 רופאים בפיתוח הפונקציה החדשה, ובכך מנסה להבטיח שהתשובות יהיו מדויקות ככל האפשר. עם זאת, ההכרה בכך שמודלים של בינה מלאכותית יכולים להפיק תשובות שאינן בהכרח מדויקות, מעלה שאלות לגבי הבטיחות והאמינות של השימוש בפלטפורמה לצרכים רפואיים.
במסגרת התנאים של OpenAI לשימוש בשירותים שלה, מודגש כי השירותים אינם מיועדים לאבחון או טיפול במצבים רפואיים. החברה מדגישה שהתכונה החדשה נועדה לתמוך במשתמשים ולא להחליף את הצוות הרפואי, ומבקשת מהמשתמשים לשים לב להנחיות אלו בעת השימוש בצ'אטבוט.
נכון לעכשיו, ChatGPT Health מושק למספר משתמשים מוגבל בארצות הברית, עם תוכניות להרחבת הגישה בעתיד הקרוב. החברה ממשיכה לחקור את האפשרויות לשיפור ודייקנות התשובות שהיא מספקת, אך מדגישה שהאחריות הסופית לפעול על פי ההנחיות הרפואיות היא על המשתמשים עצמם.
המקרה של נלסון אינו בודד, ורבים אחרים נפגעו מעצות שגויות שקיבלו מצ'אטבוטים. לכן, זהירות יתרה נדרשת בעת שימוש בטכנולוגיה זו לייעוץ בריאותי, בייחוד בהיעדר רגולציה ופיתוח כלים שמסוגלים להבחין בין מידע אמין ללא אמין.
בינתיים, משתמשים רבים ממשיכים להסתמך על ChatGPT לשאלות בריאותיות, ומספרם רק הולך וגדל. OpenAI מציינת כי מעל ל-230 מיליון אנשים פונים לצ'אטבוט בשאלות על בריאות מדי שבוע, מה שמעיד על הפופולריות של השירות בתחום זה. אך בכל זאת, חשוב להישאר ערניים לסיכונים הפוטנציאליים ולזכור כי בסופו של דבר, הטיפול והייעוץ הרפואי המקצועי הם קריטיים ואין תחליף להם.