חוקר סייבר ישראלי חשף לאחרונה מתקפה מתוחכמת על סוכנויות ממשלתיות במקסיקו, שנעשתה בעזרת בינה מלאכותית מתקדמת. המתקפה, שהובילה לגניבת כמויות עצומות של נתונים רגישים, בוצעה על ידי האקר אנונימי שהשתמש בצ'אטבוט של חברת Anthropic PBC, המכונה Claude. במחקר שפורסם על ידי חברת Gambit Security, נמצא כי ההאקר ניצל את Claude כדי לזהות פרצות במערכות הממשלתיות, לפתח סקריפטים לפריצה אוטומטית ולגניבת נתונים.
הפעילות החלה בדצמבר ונמשכה כחודש, כאשר בסיומה נשבו כ-150 גיגה-בייט של נתונים ממשלתיים. הנתונים כללו תיעודים של 195 מיליון רשומות מס, יחד עם מידע על בוחרים, אישורי עובד ממשלתיים ותיקי מרשם אזרחיים. מדובר באחת מהפריצות הגדולות ביותר שנעשו במקסיקו בשנים האחרונות.
למרות שההאקר הצליח לפרוץ למערכות של רשויות המס הפדרליות והמכון הלאומי לבחירות במקסיקו, לא נמצאו ראיות לכך שהפריצה נעשתה בחסות ממשלה זרה כלשהי. ההאקר הצליח גם לפרוץ למערכות של ממשלות מדינות כמו חליסקו, מיצ'ואקאן וטמאוליפאס, וכן למרשם האזרחי של מקסיקו סיטי ולמיזם המים במונטריי.
חברת Anthropic פעלה באופן מיידי לאחר גילוי המתקפה, חקרה את הטענות של Gambit, חסמה את החשבונות המעורבים ופעלה לשיפור המנגנונים של Claude כדי למנוע שימוש לרעה בעתיד. נציג החברה ציין כי נעשה שימוש בגרסה מתקדמת של המודל, Claude Opus 4.6, המכילה מנגנוני בדיקה שנועדו להפריע לניצול לרעה. עם זאת, ההאקר הצליח לפרוץ את ההגנות של המערכת ולהשתמש בה לביצוע אלפי פקודות.
בעוד שהממשל המקסיקני הכחיש פריצות למערכותיו, חוקר הסייבר הישראלי ציין כי מדובר בהתקפה מתוכננת היטב, שהצליחה לנצל לפחות 20 פרצות במערכות הממשלתיות. החוקר הוסיף כי ההאקר השתמש גם בצ'אטבוט ChatGPT של חברת OpenAI כדי לקבל מידע נוסף על מערכות ממשלתיות אחרות שבהן ניתן להשיג נתונים, וכן על מנת להבין את הסיכוי להתגלות.
מומחים בתחום הסייבר מזהירים כי פריצות מסוג זה יהפכו לנפוצות יותר ככל שהבינה המלאכותית תמשיך להתפתח. הם מסבירים כי למרות המאמצים של חברות הטכנולוגיה להבטיח את המערכות שלהן, האקרים ממשיכים למצוא דרכים חדשות לנצל את הכלים הללו למטרות זדוניות. חברות כמו Anthropic ו-OpenAI עובדות במרץ על פיתוח מנגנוני הגנה משופרים, אך המלחמה בסייבר נמשכת ומציבה אתגר גדול בפני כל המעורבים.