El CEO de Anthropic advierte que la IA de código abierto sigue un 'camino peligroso' y plantea riesgos de uso indebido irreversibles

Según Odaily, el CEO de Anthropic, Dario Amodei, advirtió recientemente a los legisladores estadounidenses que el desarrollo de inteligencia artificial de código abierto está entrando en un "camino muy peligroso". Una vez que los modelos de IA potentes se publican como código abierto, los desarrolladores pierden la supervisión efectiva sobre el uso de los modelos, incluida la incapacidad de monitorear el mal uso, revocar el acceso o implementar actualizaciones de seguridad dinámicas, lo que aumenta significativamente los riesgos potenciales. Amodei enfatizó que los modelos completamente abiertos son más difíciles de mantener una gobernanza de seguridad continua en comparación con los sistemas cerrados, lo que podría generar peligros de mal uso irreversibles.
Aviso legal: La información en esta página puede provenir de fuentes de terceros y es solo para referencia. No representa las opiniones ni puntos de vista de Gate y no constituye asesoramiento financiero, de inversión ni legal. El comercio de activos virtuales implica un alto riesgo. No te bases únicamente en la información presentada en esta página para tomar decisiones. Para más detalles, consulta el Aviso legal.
Comentar
0/400
Sin comentarios