Tecno. Grave falla de detectores de IA: marcan a "Cien años de soledad" y La Biblia como textos robóticos
Herramientas tecnológicas arrojan hasta un 100% de probabilidad de origen artificial en clásicos de la literatura, debido a un sesgo en sus algoritmos que penaliza la redacción humana correcta.
Las plataformas diseñadas para identificar textos generados por Inteligencia Artificial (IA) presentan fallas sistemáticas al evaluar obras literarias e históricas. Herramientas de uso masivo señalan a creaciones humanas reconocidas mundialmente como si hubieran sido escritas por algoritmos.
Un análisis reciente demostró que la novela "Cien años de soledad", del escritor colombiano Gabriel García Márquez, es identificada en un 100% como contenido artificial, publicó Xataka.
Otros documentos históricos obtienen resultados similares al ser analizados por la plataforma ZeroGPT. El Génesis bíblico registra un 88,2% de probabilidad de ser obra de una IA, mientras que la Constitución de Estados Unidos alcanza un 96,21% de artificialidad.
El problema técnico: la penalización de la "buena escritura"
La falla de detección radica en los criterios técnicos que utilizan estos sistemas para evaluar los textos. Los algoritmos miden principalmente dos indicadores: la perplejidad y el estallido.
La perplejidad evalúa qué tan predecible es la elección de palabras, mientras que el estallido mide la variación en la longitud de las oraciones.
Los textos con vocabulario preciso, estructura clara y un ritmo narrativo uniforme presentan una baja perplejidad. Para el software evaluador, estas características de buena redacción son idénticas al comportamiento de los modelos de lenguaje modernos.
Ante este escenario, diversos especialistas señalan la paradoja principal del funcionamiento de los algoritmos: "Cuanto mejor escribes, más sospechoso eres".
Impacto directo en estudiantes y el sector editorial
El margen de error de estas herramientas, que alcanza un 20% en textos creativos, afecta de manera directa a los usuarios en entornos académicos y profesionales.
Durante 2024, la Universidad Católica Australiana abrió expedientes de investigación a cerca de 6.000 estudiantes. El procedimiento se inició tras utilizar Turnitin, la plataforma de detección más extendida en universidades, comprobándose luego que muchos alumnos no habían empleado IA.
Un estudio de la Universidad de Stanford advierte que estos sistemas penalizan especialmente a escritores no nativos que utilizan estructuras gramaticales directas. Investigadores analizaron este impacto al revisar redacciones del examen de inglés TOEFL.
Los resultados de la investigación arrojaron los siguientes datos concluyentes:
- El 61,22% de los ensayos escritos por estudiantes extranjeros fueron marcados como generados por IA.
- Siete detectores populares coincidieron en el diagnóstico erróneo en el 20% de los casos evaluados.
- Los textos redactados por estudiantes estadounidenses nativos no presentaron problemas en las plataformas.
- La respuesta de las empresas tecnológicas y consecuencias comerciales**
Las compañías desarrolladoras conocen las limitaciones actuales de sus propios sistemas. OpenAI, empresa creadora de ChatGPT, retiró su herramienta oficial de detección debido a que su tasa de acierto apenas alcanzaba el 26% de los casos.
Por su parte, Edward Tian, CEO de la plataforma GPTZero, admitió públicamente la existencia de prácticas internas problemáticas en el ajuste de los sistemas.
El directivo reconoció que muchas herramientas del sector tecnológico: "Ajustan sus umbrales para generar más falsos positivos de forma intencionada".
En la industria literaria internacional, los falsos positivos ya generan consecuencias comerciales concretas. La editorial Hachette canceló recientemente la publicación de la novela "Shy Girl" en Estados Unidos y Reino Unido.
La decisión corporativa se ejecutó luego de que la herramienta técnica Pangram detectara un 78% de contenido artificial en el libro, a pesar de las negativas rotundas de su autora.
