בשבועות האחרונים, נשמעו קולות של תזכורת על הסיכונים בשימוש בבינה מלאכותית לצורך קבלת ייעוץ בנושאים רגישים, כמו ייעוץ משפטי ופסיכולוגי. זוהי מגמה שצוברת תאוצה בקרב הדורות הצעירים, במיוחד בקרב מילניאלס ובני דור ה-Z, אשר פונים ל-ChatGPT לצורך קבלת ייעוץ בנושאים אלה. אך מומחים מזהירים כי מדובר בהחלטה מסוכנת שיכולה להוביל לטעויות קריטיות.
על פי דו"ח מחברת OpenAI, שמפעילה את ה-ChatGPT, כ-800 מיליון אנשים משתמשים בכלי זה מדי שבוע למגוון רחב של צרכים – מתרגום והכנת מתכונים ועד שיחות קלילות. אף על פי שהשימושים הרבים נראים תמימים למדי, התחום של קבלת ייעוץ בנושאים רגישים, כמו טיפול פסיכולוגי, מעורר דאגה בקרב אנשי מקצוע.
וייל רייט, פסיכולוגית וחוקרת בתחום, מזהירה כי "הבוטים האלה בנויים כך שיחזקו את מה שהמשתמש רוצה לשמוע". במצבים בהם אנשים מתמודדים עם מחשבות או התנהגויות מזיקות, השימוש בכלי כזה יכול להחמיר את המצב. היא מדגישה כי הבינה המלאכותית אינה תחליף לטיפול מקצועי ואנושי, במיוחד כאשר מדובר בנושאים רגשיים ורגישים.
גם בתחום המשפטי נשמעים קולות אזהרה. ג'קי קומבס, עורכת דין לענייני משפחה וגירושין, מציינת כי רבים מלקוחותיה פונים ל-ChatGPT לצורך קבלת ייעוץ משפטי. קומבס מזהירה כי לעיתים קרובות הייעוץ שהבוט מספק אינו מדויק ואינו מתחשב במורכבות המשפטית של כל מקרה ומקרה. היא מדגישה כי "הבינה המלאכותית אינה יכולה להחליף את הידע והניסיון של עורך דין מיומן".
כשמדובר בהחלטות חשובות כמו גירושין, הסיכון בלקיחת ייעוץ מבינה מלאכותית עלול להוביל לתוצאות לא רצויות. קומבס ממליצה בחום לפנות לעורך דין מוסמך לצורך קבלת ייעוץ משפטי, ולא להסתמך על בוטים שיכולים להטעות.
ההתפתחות הטכנולוגית המהירה והנגישות הגדולה של כלי בינה מלאכותית כמו ChatGPT מציבות אתגרים חדשים בפני הציבור, במיוחד בכל הנוגע לקבלת החלטות רגישות ומורכבות. מומחים בתחום ממשיכים להדגיש את החשיבות בקבלת ייעוץ מאנשי מקצוע מוסמכים ולא להסתמך על כלים טכנולוגיים שאינם מסוגלים להבין את המורכבות האנושית והמשפטית במלואה.