חברת OpenAI הכריזה על השקת שני כלים חדשים שנועדו לשפר את אבטחת המידע והשקיפות ביישומי הבינה המלאכותית שלה, ChatGPT, ChatGPT Atlas ו-Codex. כלים אלו, הנקראים "מצב נעילה" ו"תגיות סיכון מוגבר", נועדו להתמודד עם התקפות מסוג "הזרקת פקודות" ולהעניק למשתמשים שליטה רבה יותר על המידע שלהם.
"מצב נעילה" הוא כלי אבטחה מתקדם, המיועד במיוחד למשתמשים בעלי רמת סיכון גבוהה יותר, כגון מנהלים בכירים או אנשי צוות אבטחה בארגונים גדולים. במצב זה, אינטראקציות בינה מלאכותית עם מערכות חיצוניות מוגבלות בצורה קפדנית, במטרה להפחית את הסיכון להדלפת מידע רגיש באמצעות התקפות פקודות. לדוגמה, בעת שימוש במצב נעילה, גלישה באינטרנט מוגבלת לתוכן שמור בלבד, ומספר תכונות אחרות מבוטלות כדי להבטיח את בטיחות הנתונים.
בנוסף, OpenAI מוסיפה תוויות "סיכון מוגבר" על יכולות מסוימות של הכלים, המאפשרות למשתמשים להבין טוב יותר את הסיכונים הפוטנציאליים הנובעים משימוש ביכולות אלו. תווית זו תופיע במקומות בהם קיימת אפשרות שהשימוש ביכולת מסוימת עלול לחשוף את המשתמש לסיכונים נוספים, כמו גישה לרשת.
החברה מדגישה כי הכלים החדשים הם חלק ממאמציה המתמשכים לשפר את בטיחות המידע והאבטחה במוצרים שלה, במיוחד לאור הסיכונים החדשים והמתפתחים בתחום הבינה המלאכותית. משתמשים יוכלו להפעיל את "מצב נעילה" באמצעות הגדרות המערכת, והחברה מתכננת להנגיש את הכלי גם לצרכנים פרטיים בעתיד הקרוב.
במקביל, OpenAI שואפת להעניק למשתמשים את היכולת להחליט בעצמם על רמת הסיכון שהם מוכנים לקחת, תוך הבהרה של הסיכונים הפוטנציאליים הנובעים משימוש ביכולות מסוימות. החברה מתכוונת להמשיך ולשדרג את ההגנות הקיימות, ובכך להוריד את תוויות הסיכון המוגבר במידה והסיכונים ייחשבו למנוהלים בצורה מספקת.
הכלים החדשים של OpenAI מדגישים את החשיבות שהחברה מייחסת לאבטחת מידע ולשקיפות, במיוחד בעידן בו השימוש בבינה מלאכותית נעשה רחב ומורכב יותר. החברה ממשיכה להשקיע בפיתוח אמצעים חדשים לשיפור האבטחה ולמזעור סיכונים, במטרה להבטיח חוויית משתמש בטוחה ואמינה.