Nouvelles de la porte : message, la société d’intelligence artificielle Anthropic a annoncé limiter l’accès à son nouveau système d’IA Claude Mythos Preview, en raison du fait qu’au cours de tests initiaux, le système a détecté des milliers de vulnérabilités logicielles critiques. Mythos Preview peut identifier des failles de sécurité dans les systèmes d’exploitation, les navigateurs web et les standards cryptographiques courants, suscitant des inquiétudes dans l’industrie quant aux risques potentiels et à l’évolutivité de la technologie d’IA.

Anthropic indique qu’une grande partie des vulnérabilités détectées par le modèle n’avaient pas été découvertes depuis longtemps, notamment une faille présente dans OpenBSD depuis 27 ans, un défaut vieux de 16 ans dans FFmpeg, une faille d’exécution de code à distance affectant FreeBSD depuis 17 ans, ainsi que plusieurs problèmes de sécurité dans le noyau Linux. En outre, des faiblesses existent aussi dans des protocoles cryptographiques tels que TLS, AES GCM et SSH. Des vulnérabilités courantes apparaissent également dans les applications web, comme XSS, l’injection SQL et CSRF. La société souligne que 99 % des vulnérabilités découvertes n’ont pas encore été corrigées, et qu’une divulgation trop précoce des détails pourrait entraîner des risques graves.

Les données du secteur montrent que les cyberattaques pilotées par l’IA devraient augmenter de 72 % d’une année sur l’autre, et que d’ici 2025, 87 % des organisations dans le monde pourraient être confrontées à des menaces d’attaques par l’IA. Anthropic indique que la capacité de l’IA à détecter des zero-day peut, d’une part, accélérer la protection de la sécurité logicielle, mais qu’il existe, d’autre part, un risque d’abus si elle tombe entre les mains de personnes mal intentionnées. Cela rend urgent de savoir comment déployer et contrôler en toute sécurité ce type de technologie.

Anthropic prévoit de corriger les vulnérabilités existantes avec ses partenaires, tout en réduisant les risques potentiels liés à un déploiement plus large. La société estime qu’à long terme, l’IA renforcera la sécurité de l’infrastructure réseau mondiale, rendant les logiciels plus robustes, mais que la période de transition reste semée de défis. La stratégie de limitation de l’accès à Mythos Preview montre que les entreprises équilibrent avec prudence l’innovation technologique et la protection contre la sécurité, afin d’éviter les abus potentiels.

Des experts indiquent que les découvertes de Claude Mythos pourraient contribuer à faire évoluer les pratiques futures de sécurité logicielle, accélérer l’efficacité de la détection et de la correction des vulnérabilités, tout en soulignant que le système mondial de défense réseau doit encore être davantage renforcé pour faire face aux nouvelles menaces introduites par les technologies d’IA.

Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'avertissement.