Un estudio del MIT y la Universidad de Queensland muestra un 12% de riesgo de que las armas biológicas habilitadas por IA causen daños catastróficos para 2030

Según Axios, un estudio conjunto del MIT FutureTech y la University of Queensland publicado hoy muestra que 272 investigadores que evaluaron 24 riesgos de la IA identificaron una probabilidad del 12% de que las capacidades de la IA puedan conducir a desenlaces catastróficos, definidos como más de 1 millón de muertes o más de 100 mil millones de dólares en pérdidas, antes de 2030 con las medidas de mitigación actuales en vigor. La misma probabilidad se aplica a las armas impulsadas por IA y al daño masivo. Sin medidas de mitigación, este riesgo supera el 20%. La investigación clasificó la construcción de armas químicas y biológicas asistida por IA entre las categorías de mayor riesgo.

Varios líderes de importantes empresas de IA también han emitido una carta pública conjunta advirtiendo sobre los riesgos de bioweapons derivados de la IA, y piden auditorías más sólidas de las capacidades de los modelos y salvaguardas de seguridad, en particular para abordar el posible uso indebido de los modelos de código abierto.