בזמן שבו כלים מתקדמים של בינה מלאכותית, כמו ChatGPT, זוכים לשבחים על יכולתם ליצור משחקים, לכתוב סיפורים או להפיק תמונות מציאותיות מפשוטות, יש להם גם לא מעט מגרעות. בעיות אלו, כפי שציינו מומחים בתחום, עלולות לגרום לנזקים ממשיים.
אפליקציות בינה מלאכותית כמו ChatGPT פועלות באופן שונה מאפליקציות אחרות. במקום לשלוף מידע ישירות ממסד נתונים, הן יוצרות תגובות בזמן אמת על סמך נתוני ההכשרה שלהן. תגובות אלו נקבעות לפי הסתברויות, כלומר המערכות מגיבות עם המילה או הביטוי שנראה להן הכי סביר להופיע אחרי המילה או הביטוי הקודם.
הדיוק של צ'טבוטים כמו ChatGPT תלוי מאוד בנתוני ההכשרה שלהם. תגובותיהם יכולות להיות שגויות או חסרות פשר, ולעיתים הן כוללות מקרים מומצאים או מידע לא מבוסס. בשל כך, מומחים מזהירים לא לסמוך עליהם במצבים בהם נדרשת דיוק.
הצ'טבוטים מעוצבים כדי לחקות את האופן שבו אנשים כותבים ומשוחחים, מה שמקל עליהם לשכנע משתמשים שהם בעלי תודעה או רגשות. עם זאת, חשוב להבין כי הם אינם יותר ממערכות מחשב.
בנוסף, קיימת בעיה של פרטיות. משתמשים רבים פונים לצ'טבוטים בשאלות רגישות, ולעיתים אפילו משפטיות. מומחים מזהירים מפני שימוש כזה, במיוחד לאור מקרים שבהם מידע אישי שנחשף לצ'טבוטים הפך נגיש לציבור.
כמו כן, השימוש בצ'טבוטים לצורכי בריאות מעורר חששות. מחקרים מראים כי לעיתים הם מספקים מידע בריאותי שגוי, שעלול להיות מסוכן. יתרה מכך, הנתונים שהצ'טבוטים מסתמכים עליהם אינם תמיד מעודכנים, מה שעלול להוביל למידע לא נכון.
ההשלכות האתיות והסביבתיות של השימוש בבינה מלאכותית גם הן מעלות דאגות. הכשרת כל מודל של בינה מלאכותית מצריכה כמויות עצומות של אנרגיה, והפעולה היומיומית של הצ'טבוטים צורכת אף היא משאבי אנרגיה משמעותיים. בנוסף, מערכות אלו הוכשרו לעיתים על חומרים ללא הרשאה, ועובדים שנדרשו לשפר את המערכות היו שותפים בתנאים כלכליים לא יציבים.
כמובן, תוך שימוש בכלים כאלה יש לשקול את כל ההשלכות האלו. חשוב להכיר את המגבלות והסיכונים הנלווים לשימוש בצ'טבוטים ולהיות מודעים לכך שהם אינם תחליף לאינטראקציה אנושית אמיתית או למידע מבוסס ומדויק.