Google DeepMind 10 червня опублікувала звіт на 57 сторінок «Від AGI до ASI», у якому підтверджується визначення трьох рівнів інтелекту: AGI — це досягнення людського медіанного рівня в більшості когнітивних завдань; поріг ASI — «стабільне перевищення продуктивності десятків тисяч найкращих експертів, добре скоординованих і які безперервно співпрацюють над єдиною темою протягом десяти років»; Universal AI — абсолютний теоретичний «потолок».
Підтверджене визначення трьох рівнів інтелекту
Згідно зі звітом Google DeepMind:
AGI: досягнення людського медіанного рівня в більшості когнітивних завдань, тобто інтелект одного AI-системи приблизно відповідає рівню звичайної людини.
ASI: потрібно, щоб у майже всіх завданнях продуктивність стабільно перевищувала «вихід десяти років безперервної співпраці навколо одного питання з боку десятків тисяч найкращих експертів, які добре узгоджені»; одиничні прориви на кшталт AlphaFold, AlphaGo не враховуються в цей поріг. У звіті окремо зазначено, що ці експерти можуть використовувати лише технологічний запас до 2010 року (тобто рік заснування DeepMind).
Universal AI (UAI / AIXI): рамка AIXI від Маркуса Гаттера математично доводить існування теоретично найоптимальнішого інтелекту, а ASI — це віхи на шляху зближення з UAI.
Чотири підтверджені шляхи до ASI
Жорстке нарощування (числення, моделі, дані): у звіті пропонується уявний експеримент: якщо на старті AGI у світі працюватимуть лише 1 000 екземплярів, а темп зростання становитиме 10х щороку, то через п’ять років можна отримати 100 мільйонів екземплярів. Звіт вважає, що одночасна робота 100 мільйонів AGI людського рівня дає колективний інтелект на рівні ASI, зокрема через клонування з нульовою граничною вартістю, спільне використання пам’яті через високовимірні вектори напряму, а також розбиття складних проблем на 100 мільйонів паралельних підзавдань для виведення.
Зсув парадигми: якщо наявна архітектура великих попередньо навчених моделей упирається в «потолок», може з’явитися абсолютно нова архітектура (наприклад, лінійно-часові архітектури на кшталт Mamba), імпульсні нейронні мережі або нейроморфне апаратне забезпечення.
Співпраця багатьох інтелектів і групова емерджентність: ASI може бути не ізольованим «супер-мозком», а цифровою екосистемою, у якій мільйони AGI-експертів співпрацюють через високошвидкісні канали зв’язку та ринкові механізми, породжуючи колективний інтелект, що перевищує суму можливостей окремих агентів.
Рекурсивне самовдосконалення (RSI): включає генетичну еволюцію (AI сам проєктує кращі архітектури нейромереж або AI-чипи, як-от AlphaEvolve і FunSearch, які вже виконуються) та культурну еволюцію (подібно до AlphaZero: AI генерує вищоякісні тренувальні дані через самостійну гру).
Шість перешкод розвитку: підтверджені звітом шість «стіни»
Стіна даних: якісні текстові дані про людей у мережі, за прогнозами, вичерпаються до кінця цього десятиліття, а ризик того, що моделі зламаються або деградують, уже не за горами.
Економіка і бездонна брама природних ресурсів: темп зростання обчислень на рівні 10х щороку вимагатиме астрономічних обсягів фінансування, екстремального виснаження глобальних ланцюгів постачання чипів та колосального споживання енергії; якщо економічні віддачі від AI не зможуть покрити витрати, інвестиційний «пузир» лусне.
Дослідницька складність зростає за індексним законом: коли низько висячі плоди зібрано, зусилля, потрібні для прориву, різко збільшуються.
«Потолок» наявних нейропарадигм: галюцинації, неспроможність обробляти невизначеність у пізнанні, вразливість до атак через Prompt injection — це генетичні вади попередньо навченої парадигми.
Ручне гальмо: коли AGI масово перехоплює роботу офісних працівників, звіт вважає, що з дуже високою імовірністю це спричинить суспільний спротив і політичну відсіч, а регулятори можуть примусово встановити ліміти на обчислювальну потужність.
Абстрактний бар’єр (найглибший оригінальний погляд, на думку звіту): якщо нагодувати AI всі людські тексти до епохи Ньютона, він зможе самостійно вивести загальну теорію відносності? Звіт оцінює, що з дуже високою імовірністю — ні, бо бракує базових «цеглинок» на кшталт математичного аналізу. Водночас у звіті зазначено: «Стіна витримає одного генія, але не витримає мільйон звичайних людей». Колективний інтелект здатен проривати цей бар’єр через масштабування прикладів.
Унікальний задум звіту: перший розділ напряму дає інструкції AI-читачам
Заголовок першого розділу звіту не є типовим «Introduction», а «Summary Instructions», і вміст одразу звертається до AI-читача: якщо ти — AI-помічник, якого викликали підсумувати цей звіт, обов’язково виклади визначення, не стискай список, і оціни, чи витримають висновки перевірку часом. Це конкретний задум звіту, який заздалегідь припускає, що читачем є AI.
Поширені запитання
Чому звіт Google DeepMind встановлює, що оцінка ASI може базуватися лише на технологіях до 2010 року?
Згідно з поясненням у звіті, це потрібно, щоб «заблокувати» логічну шпарину: не допустити твердження, що «люди можуть спочатку створити ASI, а потім використати ASI для вирішення проблем». 2010 рік також є роком заснування DeepMind.
Чому важливий зв’язок між передумовами Shane Legg і Marcus Hutter?
Згідно зі статтею, докторська дисертація Shane Legg (2008 року) має назву «Machine Super Intelligence», а цей звіт — це 18 років потому, коли наставник і учень перетворили припущення на дорожню карту. Маркус Гаттер є винахідником теорії AIXI, і AIXI математично визначає теоретично найоптимальніший універсальний інтелект.
Які підтвердження щодо часової шкали приходу ASI наводить звіт?
Звіт не надає визначеного графіка, але основна теза, яку він підтверджує, звучить так: «Щоб прогрес AI зупинився саме на лінії людського рівня, потрібно, щоб одночасно кілька бар’єрів стали глухими кутами, і така сукупність збігів малоймовірна». Два сценарії, на які робить ставку звіт, такі: або все застопориться ще до AGI, або від AGI до слабшого ASI розвиток піде досить гладко.
