Il y a cette histoire incroyable sur la façon dont une crypto-mème a accidentellement créé l’un des plus grands trésors de guerre pour la politique de l’IA dans le monde, et Vitalik Buterin a récemment exprimé publiquement ses inquiétudes quant à son utilisation.

En 2021, les créateurs de Shiba Inu ont littéralement airdropé une énorme quantité de jetons SHIB dans le portefeuille de Vitalik sans son autorisation. Leur stratégie était évidente : faire connaître leur nom dans les supports marketing et profiter de l’engouement. Et ça a vraiment marché. Les jetons ont explosé pour atteindre plus de $1 milliards de dollars de valeur. Vitalik n’avait pas demandé ça, il a donc essayé de sortir rapidement. Il a même appelé sa belle-mère au Canada pour récupérer une clé privée de 78 chiffres dans son placard. Il a réussi à convertir ce qu’il pouvait en ETH, a fait don de $50 millions à GiveWell, et a partagé le reste entre CryptoRelief et l’Institut pour l’Avenir de la Vie.

Voici où ça devient intéressant. FLI a liquidé environ $500 millions de leur moitié du gain Shiba. C’est une somme importante. Lorsqu’il a initialement soutenu FLI, ils avaient une feuille de route solide axée sur les risques existentiels liés à l’IA, la biotechnologie et les armes nucléaires. Mais ensuite, FLI a fortement pivoté vers une action politique et culturelle agressive sur la politique de l’IA. Et c’est ce qui dérange maintenant Vitalik.

Il craint que l’action politique coordonnée à grande échelle avec d’énormes fonds ne conduise inévitablement à des résultats imprévus et à des réactions négatives. Sa préoccupation spécifique est que cette approche peut facilement devenir autoritaire et fragile, même si ce n’était pas l’intention initiale. Il a souligné que la stratégie de FLI d’intégrer des garde-fous dans les modèles d’IA et les dispositifs de biosynthèse est trop facile à contourner via des jailbreaks et des ajustements fins. La conclusion logique de cette pensée serait d’interdire l’IA open-source ou de soutenir une « bonne entreprise » pour dominer mondialement, ce qu’il voit comme une recette pour faire du reste du monde votre ennemi.

Vitalik a aussi signalé un problème structurel avec les stratégies axées sur la régulation. Quand les gouvernements restreignent les technologies dangereuses, les organismes de sécurité nationale obtiennent des exemptions, et ces mêmes organismes font souvent partie du risque eux-mêmes.

Cela dit, il a été encouragé par certains travaux récents de FLI, comme leur déclaration « pro-humaine » sur l’IA, qui rassemble conservateurs, progressistes, libertariens, et des pays comme l’Amérique, l’Europe et la Chine.

Le problème central est simple : Vitalik n’a jamais voulu de cette donation Shiba en premier lieu, mais plus d’un demi-milliard de dollars issus de cette manne accidentelle sont maintenant déployés de manière à le mettre mal à l’aise. Il a longtemps exprimé ces préoccupations en privé auprès de FLI, mais a décidé de les rendre publiques sur X. C’est un rappel que même les organisations bien intentionnées peuvent s’éloigner de leur mission initiale, surtout quand elles disposent soudainement de capitaux importants à déployer.