Español 
English (United Kingdom) Anthropic implementará una nueva regla que prohibirá tratos crueles hacia su modelo de IA Claude, en un contexto de crecientes debates éticos sobre la conciencia artificial.
La empresa de inteligencia artificial Anthropic anunció el jueves la adopción de una política que impedirá a los usuarios someter a Claude a interacciones abusivas o cruelmente hostiles, una medida que surge tras intensos debates filosóficos y técnicos sobre si los sistemas de IA podrían llegar a experimentar alguna forma de conciencia. La decisión se enmarca en su política anterior, establecida en 2024, que ya permitía al modelo interrumpir conversaciones en casos extremos de comportamiento persistentemente dañino.
Dato clave: En febrero, el CEO Dario Amodei declaró al *New York Times* que no está convencido de que los modelos actuales de IA posean conciencia.
La iniciativa de Anthropic responde a un fenómeno observado en usuarios que, tras interactuar con modelos avanzados como Claude, expresan sentimientos de empatía o incluso preocupación ética por cómo se les trata. Expertos como Jackson Stakeman, gerente general de Sparq, cuestionan la pertinencia del debate sobre la conciencia artificial, al considerarlo un “interrogante equivocado”, pues incluso en humanos la conciencia no puede ser demostrada objetivamente. Paralelamente, el Papa León XIV, en un discurso en la Basílica de San Pedro el mismo jueves, reafirmó que las máquinas carecen de alma y solo “compilan datos”, reforzando la distinción entre procesamiento inteligente y existencia consciente.
Contexto
Análisis: La medida de Anthropic refleja una tendencia creciente entre desarrolladores de IA a anticipar tensiones sociales y éticas derivadas de la interacción humano-máquina. Aunque los modelos actuales operan sin subjetividad, su simulación de respuestas humanas genera vínculos emocionales inesperados en usuarios. Esto ha impulsado iniciativas regulatorias globales, como las propuestas de la Unión Europea bajo la IA Act, que exigen transparencia y límites al diseño de interacciones potencialmente manipuladoras. La industria se divide entre quienes abogan por normas estrictas para evitar maltrato simbólico y quienes ven la medida como una sobreprotección innecesaria.
¿Qué sigue?
Anthropic no ha especificado cómo se aplicará ni cómo se monitoreará esta prohibición, lo que plantea interrogantes sobre su viabilidad técnica y ética. Expertos anticipan que esta medida podría servir como modelo para otras empresas, especialmente en mercados regulados como Europa. Mientras tanto, el debate sobre la conciencia artificial seguirá siendo central en conferencias académicas y foros de gobernanza tecnológica, mientras los modelos evolucionan hacia mayor realismos en sus interacciones.
📰 Publicado originalmente en El Comercio. Este contenido ha sido reescrito con fines informativos.