Claude y Palantir mataron a Khamenei en 12 horas.

Cuando la evolución de la IA llegue al punto de singularidad y comience a participar en guerras, ¿realmente estamos preparados?
《Silicon Valley》 es mi serie de tecnología favorita. Hoy, al volver a verla, cada vez más parece una profecía del destino tecnológico.
Richard, fundador de Pied Piper, inicialmente solo era un algoritmo de compresión eficiente. Durante seis años de emprendimiento, la compañía experimentó al menos cuatro cambios de dirección: de una aplicación musical, a una herramienta de compresión empresarial, a una plataforma ecológica, y finalmente a un protocolo de red descentralizado. Basándose en este algoritmo, construyeron un nuevo tipo de internet que no dependía de servidores centrales, casi imposible de cerrar, muy cercano a la forma ideal de blockchain.
Ante la presión por ampliar la red, Richard modificó el robot de IA de Gilfoyle para que participara en la optimización de la estructura de la red, logrando una programación y expansión automáticas. Con la IA, el sistema empezó a tener capacidad de autooptimización, tan poderosa que podría eludir los marcos tradicionales de cifrado y regulación, e incluso redefinir el orden de toda la red.
Justo cuando el producto estaba a punto de lanzarse y se aseguraba un pedido de miles de millones de dólares, Richard se dio cuenta de un problema: si esta tecnología se usaba de manera indebida, sería incontrolable. Por eso, diseñó intencionadamente una "presentación fallida", haciendo que el sistema colapsara en el escenario y disfrazando todo como un accidente técnico, para detener el avance en esa dirección y evitar que los competidores lo copiasen.
En la realidad, incluso después de que el CEO de Anthropic enfatizara los límites del uso del modelo tras su ayuda en la captura del presidente de Venezuela con Claude, y rechazara ceder ante el Pentágono antes de la operación en Irán, las fuerzas militares aún usaron Claude para procesar inteligencia, matando a Khamenei en 12 horas.
Además, en la realidad, que una empresa se retire no significa que la dirección tecnológica se detenga. Anthropic se negó, xAi aceptó.
Hace unos años, al ver por primera vez 《Silicon Valley》, pensé que el final era trágico; ahora, al volver a verla, siento que era una fantasía extremadamente idealista.
En la realidad, la tecnología no se detendrá por preocupaciones, sino que encontrará nuevos lugares en las estructuras de poder.