¿Qué tan fiables son los detectores de textos generados con inteligencia artificial?

Este resumen es generado por inteligencia artificial y revisado por la redacción. Con el auge de la inteligencia artificial generativa, capaz de producir textos similares a la escritura humana, surgieron múltiples herramientas para intentar detectar si los escritos fueron hechos con esta tecnología. Pero, ¿hasta qué punto se puede confiar en ellas? En Francia, uno de los fenómenos literarios de la temporada, el canadiense Thélyson Orélien, ha sido acusado de haber utilizado la IA para escribir su primera novela, lo que el autor desmiente. Las acusaciones, hechas por una cuenta anónima en las redes sociales, se basan en un programa de detección de IA. ¿Cómo funcionan estas herramientas y hasta dónde son fiables? Estas son algunas claves para entenderlas. El uso creciente de la IA generativa ha propiciado la creación de decenas de herramientas en línea para detectarla, la mayoría de pago si se quiere acceder de forma ilimitada. Muchas van dirigidas al sector de la docencia y de la investigación académica. Las empresas que desarrollan estos dispositivos utilizan métodos diferentes para configurar sus sistemas de detección. Pero todas tienen en común haber construido estos programas analizando amplias bases de datos que reúnen textos generados por modelos de IA y escritos redactados por personas. Y, según varios trabajos publicados por investigadores, estos sistemas de detección, que aún eran muy deficientes hace unos años, han mejorado su rendimiento de forma considerable. Para intentar determinar si un texto ha sido redactado por una IA, estas herramientas “buscan regularidades”, explica Thierry Poibeau, director de investigación en el CNRS y especialista en procesamiento automático del lenguaje. “La idea es que estos textos generados automáticamente, aunque eso es cada vez menos cierto, tienen algunos tics de lenguaje”, explica. La empresa Pangram, fundada en 2023 y cuyo instrumento fue utilizado por una cuenta en X para escanear dos fragmentos del libro d