Então há uma história louca sobre como uma meme coin criou acidentalmente um dos maiores cofres de políticas de IA do mundo, e Vitalik Buterin acabou de tornar pública a sua preocupação com a forma como está sendo usada.

Em 2021, os criadores do Shiba Inu literalmente fizeram um airdrop de uma grande quantidade de tokens SHIB na carteira de Vitalik sem permissão. A jogada deles foi óbvia: colocar o nome de Vitalik nos materiais de marketing e aproveitar o hype. E, na verdade, funcionou. Os tokens dispararam para mais de $1 bilhões de valor. Vitalik não pediu por isso, então ele se apressou a sair. Ele até ligou para a madrasta no Canadá para recuperar uma chave privada de 78 dígitos do seu armário. Conseguiu converter o que pôde em ETH, doou $50 milhões para a GiveWell, e dividiu o restante entre CryptoRelief e o Future of Life Institute.

Aqui é que fica interessante. A FLI liquidou cerca de $500 milhões da sua metade do lucro do shiba. Isso é muito capital. Quando Vitalik apoiou inicialmente a FLI, eles tinham um roteiro sólido focado em riscos existenciais de IA, biotecnologia e armas nucleares. Mas então a FLI mudou drasticamente para uma ação política e cultural agressiva sobre a política de IA. E é isso que está incomodando Vitalik agora.

Ele está preocupado que uma ação política coordenada em grande escala, com pools de dinheiro enormes, inevitavelmente leva a resultados não intencionais e reações adversas. Sua preocupação específica é que essa abordagem pode facilmente se tornar autoritária e frágil, mesmo que essa não fosse a intenção original. Ele apontou que a estratégia da FLI de embutir limites nos modelos de IA e dispositivos de biossíntese é fácil de contornar por jailbreaks e ajustes finos. O desfecho lógico dessa linha de raciocínio é banir a IA de código aberto ou apoiar uma empresa "boa" para dominar globalmente, o que ele vê como uma receita para fazer o resto do mundo seu inimigo.

Vitalik também destacou um problema estrutural com estratégias baseadas em regulamentação. Quando os governos restringem tecnologias perigosas, organizações de segurança nacional obtêm isenções, e essas mesmas organizações muitas vezes representam o risco elas mesmas.

Dito isso, ele ficou encorajado por alguns trabalhos recentes da FLI, como a declaração "pró-humana de IA" que une conservadores, progressistas, libertários e países como América, Europa e China.

A questão central é simples: Vitalik nunca quis essa doação de shiba em primeiro lugar, mas meio bilhão de dólares do seu lucro acidental agora está sendo usado de maneiras que o deixam desconfortável. Ele tem levantado essas preocupações com a FLI em privado há algum tempo, mas decidiu tornar público no X. É um lembrete de que até organizações bem-intencionadas podem se desviar de sua missão original, especialmente quando de repente têm um capital enorme para investir.