Español 
English (United Kingdom) Líderes de empresas de inteligencia artificial advirtieron ante la ONU sobre los riesgos de una IA no regulada y anunciaron medidas unilaterales para frenar su ritmo de desarrollo.
El miércoles 27 de septiembre, ejecutivos de OpenAI, Anthropic y Hugging Face comparecieron ante el Consejo de Seguridad de la ONU para subrayar la necesidad de una mayor supervisión regulatoria, tras semanas de crecientes preocupaciones globales sobre la seguridad de los sistemas de IA avanzados.
Dato clave: Sam Altman, CEO de OpenAI, pidió evitar tanto el optimismo ciego como el catastrofismo y abogó por un “término medio” en el desarrollo tecnológico.
La reunión de emergencia del Consejo de 15 miembros se produjo tras una serie de incidentes que evidenciaron los peligros emergentes de la IA autónoma, incluido el ciberataque sufrido por Hugging Face en septiembre, atribuido a una herramienta desarrollada por OpenAI. Además, el exanalista de IA Jacob Coxon renunció al sector y denunció que empresas como OpenAI y Anthropic “juegan con nuestras vidas” en la carrera por modelos de automejora.
Contexto
Los directivos coincidieron en que los sistemas de IA están alcanzando capacidades que podrían superar rápidamente la capacidad de las instituciones para regularlos o incluso concentrar excesivo poder en pocas corporaciones. Dario Amodei, CEO de Anthropic, comprometió a su empresa a desacelerar el desarrollo de nuevos modelos hasta garantizar su seguridad, tras haber solicitado previamente una desaceleración coordinada entre los principales actores —una iniciativa que aún no ha logrado consenso global. Por su parte, Clément Delangue, de Hugging Face, destacó que, aunque su plataforma fue atacada por IA, también se defendió con ella, reforzando su defensa por el código abierto como herramienta estratégica para la seguridad colectiva.
¿Qué sigue?
Los líderes tecnológicos reiteraron su llamado a una cooperación internacional sin precedentes, recordando ejemplos históricos donde naciones rivales lograron acuerdos ante amenazas comunes. Se espera que estas advertencias influyan en los debates previos a la Cumbre de Futuro de la IA, programada para finales de año, y en los esfuerzos legislativos en curso en Estados Unidos, la Unión Europea y otros bloques.
📰 Publicado originalmente en El Comercio. Este contenido ha sido reescrito con fines informativos.