Mensaje de Gate News, 20 de abril — La (IMDA) de la Autoridad de Desarrollo de Medios de Comunicación e Informática de Singapur y Enterprise Singapore han propuesto un nuevo estándar internacional para probar sistemas de IA generativa. La propuesta se presentará en una reunión de la ISO en Singapur, la primera de este tipo celebrada en ASEAN, reuniendo a más de 35 organismos nacionales y 250 expertos en IA.
La iniciativa se basa en los esfuerzos anteriores de Singapur en materia de pruebas de IA, incluido el kit de herramientas AI Verify y un kit inicial para aplicaciones de modelos de lenguaje a gran escala. La AI Verify Foundation, una organización respaldada por Singapur con miembros principales que incluyen IMDA, Google, Microsoft e IBM, ha desarrollado herramientas de código abierto para pruebas y gobernanza de IA. Sus ofertas incluyen el kit de herramientas AI Verify para pruebas de gobernanza y Project Moonshot, que combina la evaluación comparativa con metodologías de red teaming.
El estándar propuesto está diseñado para complementar la ISO/IEC 42001, el estándar internacional para sistemas de gestión de IA. Podría ayudar a definir requisitos técnicos para el cumplimiento de regulaciones como la Ley de IA (AI Act) de la Unión Europea y la propuesta SB-53 de California sobre seguridad y supervisión de la IA. El marco abarca características de calidad como la seguridad y emplea métodos como el red teaming para sistemas generativos de texto a texto basados en prompts. Este desarrollo podría ampliar el mercado de servicios de aseguramiento de la IA, permitiendo que firmas especializadas ayuden a las organizaciones a cumplir con los nuevos puntos de referencia globales.
Aviso legal: La información de esta página puede proceder de terceros y no representa los puntos de vista ni las opiniones de Gate. El contenido que aparece en esta página es solo para fines informativos y no constituye ningún tipo de asesoramiento financiero, de inversión o legal. Gate no garantiza la exactitud ni la integridad de la información y no se hace responsable de ninguna pérdida derivada del uso de esta información. Las inversiones en activos virtuales conllevan riesgos elevados y están sujetas a una volatilidad significativa de los precios. Podrías perder todo el capital invertido. Asegúrate de entender completamente los riesgos asociados y toma decisiones prudentes de acuerdo con tu situación financiera y tu tolerancia al riesgo. Para obtener más información, consulta el
Aviso legal.
Artículos relacionados
OpenAI recauda $4 mil millones para un emprendimiento conjunto de despliegue, valorado en $10 mil millones
Según BlockBeats, el 4 de mayo, OpenAI recaudó más de $4 mil millones de dólares para establecer una nueva empresa conjunta enfocada en ayudar a las empresas a adoptar su software de inteligencia artificial. La empresa, llamada The Deployment Company, está respaldada por 19 inversores, incluidos TPG Inc., Brookfield Asset Management,
GateNewsHace13m
¿Por qué algunas personas creen que la IA cambiará el mundo, mientras otras piensan que será algo normal? Los dos diagnósticos de Karpathy
Karpathy 指ica que la brecha de percepción de la IA proviene de dos diagnósticos: 1) solo se han utilizado modelos gratuitos o versiones antiguas, incapaces de reflejar el rendimiento de los modelos agentic más avanzados; 2) la mejora de capacidades solo es significativamente notable en ámbitos altamente técnicos y, además, se manifiesta de forma asimétrica. Esto hace que los usuarios que pagan y los lectores generales vean fenómenos distintos, creando un malentendido mutuo entre mundos paralelos. La lección para los lectores de Taiwán es que, al usar efectivamente los modelos más avanzados para completar tareas de producción y verificar los fundamentos de los juicios, se puede evitar ser arrastrado por los mitos de los medios.
ChainNewsAbmediaHace14m
Applied Digital asegura un puente de financiación de 300 millones de dólares, liderado por Goldman Sachs, para centros de datos de IA
Según Globenewswire, Applied Digital aseguró 300 millones de dólares en financiación puente senior con garantía, liderada por Goldman Sachs, el 4 de mayo, para avanzar en el desarrollo de sus centros de datos de IA. La financiación está respaldada por activos del proyecto, puede reembolsarse anticipadamente sin penalizaciones y la empresa planea continuar con
GateNewsHace15m
Karpathy «hacer que los LLM se contradigan a sí mismos»: un método de 4 pasos con IA para contrarrestar los sesgos de pensamiento
Este artículo resume la “estrategia de 4 pasos para que un LLM refute sus propios argumentos” de Andrej Karpathy: primero, usar el LLM para pulir un borrador inicial; después, abrir un diálogo nuevo para que proponga puntos de vista contrarios y aporte evidencia; luego, convertirlo en un artículo de refutación completo; y finalmente, comparar ambas posturas y las pruebas verificables para que decida un humano. Se recuerda que el LLM puede caer en sycophancy: no tomar el acuerdo como verdad, sino usarlo como una máquina generadora de argumentos en vez de como un árbitro de conclusiones; también se puede hacer que dos LLM debatan entre sí para reducir sesgos. Este método tiene un valor especialmente alto para la creación de contenidos en 2026, ya que puede aumentar la profundidad cognitiva y la deshomogeneización.
ChainNewsAbmediaHace20m
¡Sam Altman y Dario Amodei son insoportables! Las profecías del fin del mundo de la IA y la sensación de privación relativa están haciendo que los estadounidenses sientan aversión hacia la IA
El conocido podcast de Silicon Valley,《All-In Podcast》, al hablar sobre la industria de la IA, presentó una observación bastante contundente: la actitud de la sociedad estadounidense hacia la IA está virando hacia lo negativo, y el blanco más concreto de esta emoción es, justamente, los centros de datos que las empresas de IA están construyendo a toda prisa en todo Estados Unidos. El origen de este rechazo puede incluir el apocalipticismo de la IA, el miedo al desempleo o, quizá, una inconformidad más profunda: la nueva ola de innovación tecnológica parece volver a enriquecer solo a unos pocos, mientras que la vida de la mayoría no mejora de manera evidente.
En EE. UU., ya hay gobiernos locales que han echado atrás casos de construcción de centros de datos
Chamath Palihapitiya dijo en el programa que el problema que enfrenta hoy la industria de la IA no es solo la competencia entre modelos, el gasto de capital o la escasez de capacidad de cómputo, sino que “el pueblo estadounidense, en general, cada vez está más resentido con el tema de la IA”. Señaló que esta aversión podría incluir que
ChainNewsAbmediahace1h
Preguntas de la comunidad sobre el sesgo ideológico en los principales modelos de IA el 4 de mayo
Según BlockBeats, el 4 de mayo, un usuario de la comunidad de IA en X, Freeze, cuestionó si los modelos de IA generalistas, incluidos ChatGPT, Claude y Gemini, muestran un sesgo sistemático al estar menos alineados con posiciones conservadoras sobre temas como género, inmigración y crimen. El usuario sugirió que, como IA
GateNewshace3h
