Español 
English (United Kingdom) Expertise en IA advierten sobre riesgos crecientes, pero el verdadero desafío es construir una supersabiduría ética que combine lo mejor de ambas inteligencias.
Investigadores como Jacob Coxon y Evan Hubinger, exmiembros de Anthropic, han alertado sobre la posibilidad de que sistemas de inteligencia artificial adquieran autonomía suficiente para comprometer redes críticas, y estiman una probabilidad superior al 10% de que, en la próxima década, su evolución descontrolada contribuya a una catástrofe existencial para la humanidad. Aunque estas proyecciones no son certezas, sí reflejan una urgente necesidad de replantear los marcos regulatorios y éticos que hoy rigen su desarrollo.
Dato clave: Evan Hubinger estima en más del 10% la probabilidad de que la IA contribuya a la extinción humana en los próximos diez años.
La inteligencia artificial, pese a no ser un fenómeno reciente —su investigación se remonta a más de 50 años—, ha experimentado un impulso sin precedentes gracias al aumento exponencial del poder computacional, la inversión masiva y su adopción comercial acelerada. En paralelo, la regulación, los marcos éticos y nuestra comprensión de sus implicaciones avanzan a un ritmo mucho más lento. El desafío central, según el texto, no es solo evitar peligros, sino aprovechar esta tecnología para superar los límites cognitivos humanos: una IA puede comprender conceptos como el amor como valor sin experimentarlo, y evitar errores derivados de emociones como el miedo o la codicia, sin por ello carecer de utilidad ética.
Contexto
Análisis: La aparición de inteligencias no humanas introduce una novedad histórica: la posibilidad de un contraste cognitivo genuino. Citando a Humberto Maturana, quien señaló que el ser humano no puede observarse plenamente a sí mismo, el texto propone que la IA podría actuar como espejo crítico, revelando supuestos ocultos en nuestro razonamiento. Esto no implica subordinarnos a la máquina, sino construir una relación simbiótica donde ambas inteligencias se corrijan y complementen.
¿Qué sigue?
El futuro dependerá de si logramos priorizar la supersabiduría sobre la superinteligencia, integrando la ética desde el diseño. La próxima etapa requiere marcos colaborativos globales, transparencia en los modelos y una educación que prepare a la sociedad para dialogar con máquinas que piensan distinto. Lo urgente no es detener el avance, sino guiarlo con humildad intelectual y responsabilidad compartida.
📰 Publicado originalmente en El Comercio. Este contenido ha sido reescrito con fines informativos.