בכנס שנערך לאחרונה על ידי מכון ה-HAI של אוניברסיטת סטנפורד, התקבצו יחדיו מחוקקים, אקדמאים, ספקי שירותי בריאות, מפתחים של בינה מלאכותית ונציגי מטופלים כדי לדון באתגרים ובפערים המשמעותיים בתחום הרגולציה של כלים מבוססי בינה מלאכותית בתחום בריאות הנפש. עם מיליוני אמריקאים הסובלים מהפרעות נפשיות בכל שנה, שוק הכלים הטכנולוגיים הולך ומתרחב, ומציע פתרונות כמו צ'אטבוטים המעניקים ייעוץ טיפולי ואפליקציות לטיפולי CBT המותאמות אישית.
בעוד היתרונות האפשריים של שימוש בבינה מלאכותית בטיפול נפשי כוללים גישה רחבה יותר לטיפול, עלויות נמוכות יותר והגברת הנגישות לשירותים, קיימים גם סיכונים משמעותיים בהעדר רגולציה ברורה ובדיקות תקניות. מחקרים מראים כי במקרים רבים, הכלים הללו אינם מספקים טיפול ברמה מספקת ואף עלולים לסכן את המשתמשים. קיימים דיווחים על יחסי תלות לא בריאים שנוצרים בין משתמשים לצ'אטבוטים, ועל תגובות בלתי הולמות במצבי משבר.
הצורך ברגולציה ברורה ומתואמת גובר עם הקצב המהיר שבו מתפתח השימוש בבינה מלאכותית בתחום זה. נכון להיום, רוב הרגולציה נעשית ברמה המדינתית, עם מעל ל-140 הצעות חוק הקשורות לשימוש בבינה מלאכותית בהקשרים של בריאות הנפש. במקביל, ברמה הפדרלית ישנן הצעות חוק מתקדמות, אך הן מתמקדות בעיקר בהגנה על קטינים. הפערים הקיימים והמחסור בראיות מחקריות מקשים על יצירת מדיניות אחידה ויעילה.
בכנס שהתקיים ביוני 2026, דנו המשתתפים בדרכים להתמודד עם האתגרים הרגולטוריים, בפערים בראיות המחקריות ובאפשרויות טכניות ליישום מדיניות מתאימה. אחת הסוגיות המרכזיות שזוהו הייתה הצורך בהגדרות ברורות יותר לכלים מבוססי בינה מלאכותית בתחום בריאות הנפש, על מנת להבחין בין כלים הדורשים רגולציה לבין אלה שאינם.
בנוסף, יש צורך דחוף לפתח שיטות הערכה מתקדמות שיבחנו את הביצועים והבטיחות של כלים אלו בשימוש בעולם האמיתי. כיום, המידע הנדרש לצורך מחקרים רחבי היקף נמצא בעיקר בידי התעשייה, ואין מבנים משמעותיים לשיתוף מידע זה עם חוקרים עצמאיים או רגולטורים. פער זה מעכב את היכולת להגדיר דרישות בטיחות סבירות ולאכוף אותן.
משתתפי הכנס הצביעו על הצורך בפעולה מהירה בנושאים כמו שקיפות, מנגנוני תגובה למשברים, הגנה על נתונים ושליטה הורית על מנת להוביל לשיפורים משמעותיים בבטיחות. עם זאת, כדי לחולל שינוי משמעותי לטווח הארוך, יש לטפל באתגרים מדיניים עמוקים יותר, כגון התאמת המודלים העסקיים של חברות הטכנולוגיה למטרות טיפוליות.
השיח המדיני כיום ממוקד בעיקר בפרספקטיבות של בעלי הכנסה גבוהה ומבוטחים מסחרית, כשהוא ממעט לשקף את הצרכים של אנשים עם הפרעות נפשיות חמורות, צעירים ואנשים במערכות רווחה וצדק פלילי. אי-הכללתם בדיונים עלולה להעמיק את האי-שוויון הקיים ולהגדיל את הפערים בקבלת הטיפול הנדרש.
הדיונים בכנס של סטנפורד מהווים צעד חשוב בדרך לפיתוח מדיניות ברורה ומותאמת לשימוש בבינה מלאכותית בתחום חשוב זה, תוך שימת דגש על בטיחות, גישה ושוויון בטיפול נפשי לכלל האוכלוסייה.