המומחים בתחום האינטליגנציה המלאכותית מתווכחים על השאלה האם אנו עומדים בפני הופעתה של סופר-אינטליגנציה מלאכותית, מערכת שמצליחה להתעלות על בני האדם בכל התחומים הקוגניטיביים. מנכ"ל OpenAI, סם אלטמן, ומנכ"ל Meta, מארק צוקרברג, חוזים כי בעתיד הקרוב יושגו מערכות כאלו. עם זאת, המערכות הנוכחיות, כמו ChatGPT, עדיין רחוקות מיכולת כזו, למרות שהן מפגינות יכולות מרשימות בתחום כתיבת קוד והפעלתו.
רעיון הסופר-אינטליגנציה עלה לראשונה על ידי הסטטיסטיקאי אירווינג ג'ון גוד בשנת 1965, כשהציע את המושג "מכונה אולטרה-אינטליגנטית". לפי גוד, ברגע שמחשב יהיה מספיק מפותח, הוא יוכל לשפר את עצמו במהירות, מה שיוביל למה שהוא כינה "התפוצצות אינטליגנציה". דוגמה לכך היא AlphaGo Zero, מערכת AI שנבנתה על ידי DeepMind בשנת 2017 כדי לשחק במשחק הלוח הסיני Go. המערכת הצליחה להתעלות על גרסאות קודמות שלה, תוך שהיא לומדת את המשחק בעצמה, ללא כל תערבות אנושית.
היכולת של מערכות אלו לשפר את עצמן באופן אוטונומי עדיין מוגבלת לתחומים מסוימים בלבד. מערכות כמו Codex של OpenAI ו-Claude Code של Anthropic מסוגלות לכתוב קוד באופן עצמאי לפרקי זמן קצרים, אך הן עדיין תלויות בבני אדם לקביעת מטרות והערכה של שיפורים. המערכות הנוכחיות יכולות לספוג ולנתח כמויות אדירות של מידע, אך היכולת שלהן לנתח ולהסיק באופן עצמאי עדיין מוגבלת.
חוקרים רבים טוענים כי המפתח לקראת סופר-אינטליגנציה טמון בהשגת אינטליגנציה מלאכותית כללית (AGI), שמסוגלת לחשוב באופן גמיש כמו בני אדם. עד כה, ההגדרות של AGI משתנות ככל שהמכונות משתפרות, אך השאלה המרכזית היא האם מערכת כזו תוכל לשפר את עצמה באופן משמעותי.
ישנם חוקרים שמאמינים כי יידרש זמן רב עד שנצליח להבין את האינטליגנציה באופן מלא ולהשיג את אותו מרכיב חסר. אחרים סבורים כי AGI תושג תוך מספר שנים, מה שיוביל להתפתחויות שיתעלו על יכולות אנושיות. בשנת 2024, אלטמן הציע כי סופר-אינטליגנציה עשויה להופיע "בתוך כמה אלפי ימים".
חברות AI מבצעות בדיקות בטיחות למערכות שלהן כדי לוודא שהן לא יכנסו ללולאת שיפור עצמי בלתי נשלטת. למשל, ארגון METR בודק מערכות לפי משך הזמן שהן יכולות לבצע משימה מורכבת לפני כשלון. הבדיקות האחרונות למערכת GPT-5.1-Codex-Max הראו שיפור משמעותי לעומת גרסאות קודמות, אך עדיין אין מדובר במערכת שמתקרבת לאותה התפוצצות אינטליגנציה שתיאר גוד.
במידה ו-AGI תושג, ונוסיף חשיבה והסקת מסקנות קרובות לרמה האנושית לבסיס מידע עצום, זיכרון עבודה עצום ומהירות בלתי נתפסת, הרעיון של שיפור עצמי מהיר מתחיל להיראות פחות כמו מדע בדיוני. השאלה האמיתית היא האם נעצור ברמה האנושית או נסתכן בהתקדמות מעבר לזה.