Español 
English (United Kingdom) Investigadores de la Universidad George Washington crearon una fórmula matemática para anticipar cuándo una IA dejará de ser segura, detectando el momento exacto en que sus respuestas pueden volverse peligrosas.
Un equipo liderado por los físicos Neil F. Johnson y Frank Yingjie Huo, de la Universidad George Washington (EE.UU.), publicó en la revista *Patterns* de Cell Press una metodología capaz de predecir el punto crítico en el que los modelos de inteligencia artificial pasan de generar respuestas adecuadas a otras potencialmente dañinas, incluso cuando son técnicamente correctas pero inaceptables desde una perspectiva ética o de seguridad.
Dato clave: Identificaron el mecanismo de “atención” como el punto de inflexión del sistema y derivaron una fórmula matemática que señala con antelación si la IA cambiará su salida hacia una respuesta indeseable.
La investigación surge ante el creciente uso de asistentes de IA en dispositivos móviles, especialmente en entornos sin conexión a internet, donde carecen de filtros en la nube o sistemas de supervisión en tiempo real. Johnson y Huo destacan que los sectores más vulnerables —como médicos, abogados y militares— operan sin redes de seguridad externas, lo que amplifica los riesgos ante una respuesta objetivamente precisa pero peligrosa, como consejos médicos erróneos o instrucciones que incitan a la autolesión. Su enfoque, inspirado en principios de física de sistemas complejos, permite mapear las respuestas posibles como un “paisaje de valles”, donde cada camino representa una salida potencial, y detectar cuándo el sistema se desequilibra hacia uno de ellos.
Contexto
Análisis: Las herramientas de seguridad actuales en IA suelen actuar tras el daño, ya que dependen de actualizaciones en la nube o revisiones posteriores. En cambio, esta propuesta permite la detección *preventiva*, lo que representa un avance significativo para la gobernanza de IA en entornos críticos. Expertos en ética tecnológica valoran el enfoque interdisciplinario, aunque advierten que su implementación práctica requiere validación en modelos más grandes y diversos.
¿Qué sigue?
El equipo planea colaborar con desarrolladores para integrar la fórmula en arquitecturas de IA de borde (edge AI) y probarla en aplicaciones médicas y de defensa. Se espera que, a mediano plazo, esta metodología sirva como estándar para certificar la seguridad predictiva de modelos autónomos, especialmente en contextos donde la latencia y la privacidad limitan el uso de controles externos.
📰 Publicado originalmente en El Comercio. Este contenido ha sido reescrito con fines informativos.