Так появилась эта дикая история о том, как мем-монета случайно создала один из крупнейших в мире фондов по политике ИИ, и Виталик Бутерин только что публично высказался о своих опасениях по поводу того, как он используется.

В 2021 году создатели Shiba Inu буквально раздавали огромную кучу токенов SHIB на кошелек Виталика без разрешения. Их тактика была очевидной: привлечь имя Виталика в маркетинговые материалы и воспользоваться хайпом. И это действительно сработало. Токены выросли в цене до более чем $1 миллиарда. Виталик не просил этого, поэтому он поспешил выйти из ситуации. Он даже позвонил своей мачехе в Канаде, чтобы получить 78-значный приватный ключ из своего шкафа. Ему удалось конвертировать часть в ETH, пожертвовать $50 миллионом в GiveWell и разделить остальное между CryptoRelief и Институтом будущего жизни.

Вот где становится интересно. FLI ликвидировал около $500 миллиона из своей части шибовского богатства. Это много капитала. Когда Виталик впервые поддержал FLI, у них был четкий план, сосредоточенный на экзистенциальных рисках от ИИ, биотехнологий и ядерного оружия. Но затем FLI резко переключился на активные политические и культурные действия по поводу политики ИИ. И именно это сейчас беспокоит Виталика.

Он опасается, что масштабные скоординированные политические действия с огромными денежными фондами неизбежно приводят к непредвиденным последствиям и backlash. Его конкретная тревога — что такой подход легко может стать авторитарным и хрупким, даже если изначально это не было целью. Он отметил, что стратегия FLI по внедрению ограничительных рамок в модели ИИ и устройства для биосинтеза слишком легко обходится через jailbreak-и и тонкую настройку. Логическая точка этого мышления — запрет открытого исходного кода ИИ или поддержка одной «хорошей» компании для глобального доминирования, что он видит как рецепт превращения остального мира в врага.

Виталик также указал на структурную проблему стратегий, ориентированных на регулирование. Когда правительства ограничивают опасные технологии, организации национальной безопасности получают исключения, и эти же организации зачастую сами представляют риск.

Тем не менее, его вдохновляют некоторые недавние работы FLI, например их межидеологическая декларация «про-человеческий ИИ», объединяющая консерваторов, прогрессистов, либертарианцев и страны такие как Америка, Европа и Китай.

Основная проблема проста: Виталик никогда не хотел этого пожертвования шибы, но полмиллиарда долларов с его случайного богатства теперь расходуются таким образом, что вызывает у него дискомфорт. Он уже некоторое время поднимает эти вопросы с FLI в частном порядке, но решил сделать их публичными в X. Это напоминание о том, что даже хорошо намеренные организации могут отклониться от своей первоначальной миссии, особенно когда у них внезапно появляется огромный капитал для использования.