Нещодавно я читав книгу на 165 сторінок. Автор Леопольд Ашенбреннер, він два роки тому точно передбачив тенденції розвитку сучасного ШІ.

У квітні 2024 року його звільнили з OpenAI, у червні він написав цю книгу «Situational Awareness», яка по суті є документом для залучення інвестицій. У вересні він заснував власний хедж-фонд. Обсяг цього фонду за рік виріс з понад 200 мільйонів доларів до 5,5 мільярдів, майже у 24 рази. У першій половині 2025 року чистий дохід склав 47%.
Я читав і почав задумуватись: на підставі чого? На підставі чого 22-річна людина може у 2024 році описати світ сьогодні?
Можливість бачити майбутнє — тому що він стоїть у кімнаті, де це майбутнє вже створюється. У його колі в Сан-Франциско, у команді Superalignment OpenAI, він безпосередньо працює під керівництвом головного науковця Іллі Сутскевера. Ця книга — його присвята Іллі.
Кожне речення, яке він написав два роки тому, сьогодні, озираючись назад, майже всі справдилися.
Він каже, що короткостроково найнеобхіднішого для ШІ — це не алгоритми, а обчислювальна потужність, пам’ять HBM, дата-центри, електрика.
Він каже, що справжній вузол — у передовій упаковці CoWoS.
Він каже, що електромережа в США стане першим бар’єром, що зупинить усіх.
Він каже, з’явиться «трильйонний доларовий кластер». Пізніше ці погляди всі стали заголовками.
OpenAI назвав цей кластер Stargate.
Але це все ще лише закуска. У книзі він пише:
2027 рік — настане AGI (загальний штучний інтелект).
Логіка така: за останні чотири роки ШІ виріс із «дошкільника» GPT-2 до «розумного старшокласника» GPT-4. І ще через чотири роки, каже він, ШІ зможе замінити людських дослідників, сам навчаючи ШІ.
Якщо ШІ зможе сам досліджувати ШІ, то за один рік він пройде всі алгоритмічні ітерації людства за десять років. «Інтелектуальна експлозія» почнеться саме з цього моменту.
Тоді людство вже не зможе зрозуміти, що робить ШІ. Він пише код, приймає рішення. Як нам знати, що він не обманює нас?
У книзі Леопольд пропонує три рецепти.
Один, слабкий контроль сильного. Використовувати слабший, але зрозумілий людському ШІ для контролю над потужним, що перевищує людські можливості. Вірити в те, що слабший зможе розпізнати зловмисний намір сильнішого. Леопольд сам є співавтором цієї статті.
Другий — дебати між ШІ. Дозволити кільком ШІ сперечатися, виявляти помилки один одного, викривати неправду. Людина — лише спостерігач, суддя, що використовує їхні суперечності, щоб виявити брехуна.
Третій — механічна пояснюваність. Під час тренування спершу видалити небезпечні параметри, потім безпосередньо дивитись у «мозок» ШІ, щоб зрозуміти, що він думає. Створити «ШІ-детектор брехні», щоб знайти його внутрішній «напрямок істини». Леопольд каже, що це — рівень місячної програми, дуже складна задача.
Дочитавши до цього, я зрозумів, чому він закінчує знімком Оppenheimer. Це його новий Манхеттенський проект.
Він сам визнає, що ці три шляхи — це швидше «заглушки». Жоден не вирішує справжню проблему. Це лише ставка на те, що людство зможе дотягнути до того дня, коли питання вирівнювання ШІ буде передано самому ШІ для вирішення.
Зараз ми робимо не «ми вирішили проблему безпеки ШІ», а «ми сподіваємося, що ШІ вирішить її за нас».
Звучить так, ніби ми ведемо не зовсім здоровий роман?
Знаючи, що щось не так, все одно ставимо на те, що він зміниться.
Повертаючись до інвестицій. Найцінніша частина цієї книги — не конкретний 2027 рік для AGI. Помилка може бути великою, можливо, на рік пізніше або раніше.
Найцінніше — це чітко пояснити рівень вузьких місць у всій десятилітній індустрії ШІ:
Електрика > Передова упаковка / HBM > Обчислювальна потужність > Алгоритми > Застосунки.
Чим вище, тим рідше, чим нижче — тим більше.
Сам Леопольд, вклавши реальні гроші, особисто перевірив це на відкритому ринку.
Коли я закриваю книгу, я думаю:
Деякі книги, прочитані на рік раніше, можуть визначити долю.
На щастя, зараз ще не пізно.
«Побачимось у пустелі, друже.»