Siempre ha sido un drama saber si un texto es IA o no. Había quien tenía teorías o veía patrones. Pero era muy difícil. Hace también mucho tiempo que hay montones de herramientas para intentar averiguarlo. Pero no funcionaban bien.
Ahora, sin embargo, cada vez hay más consenso en que una funciona muy bien: Pangram. Oigo hablar de ella desde hace meses. La he ido probando también desde hace tiempo. Hay artículos científicos que han comprobado cómo funciona.
Esta semana hubo un escándalo literario en Francia por culpa precisamente de Pangram. El libro C’était ça ou mourir ha recibido varios premios y lleva más de 35.000 ejemplares vendidos. El martes, una cuenta anónima en X publicó que el libro estaba escrito con IA. Su autor, el canadiense de origen haitiano Thélyson Orélien, lo negó. Dijo que acabó el primer borrador en 2019 (ChatGPT salió a finales de 2022) y que su tradición literaria “haitiana y caribeña” puede haber causado confusión a la máquina. Su editorial, Grasset, de momento le apoya.
Aproveché para contarlo en el periódico y decir que Pangram funciona. Es un tema delicado. Un periodista no puede dejar de contar algo cuanto antes, pero tampoco puede pasarse de listo. Esta semana, con el caso francés (que no era el primero, en EE UU ha habido muchos) me pareció el equilibrio perfecto.
Pero, como es evidente, iba a provocar debate. La víctima preferida de un periodista es otro periodista que se ha pasado de listo. Y así fue. Ayer me escribió una amiga periodista con la entradilla del artículo y el veredicto de Pangram: "Es 79% IA". "La entradilla le suena toda a IA", me decía.
No fue un momento fácil. Mi respuesta fue inmediata: "Pangram necesita más texto". Pero tuve miedo, claro. Fui corriendo a probarlo. Ella llegó antes con las 800 palabras de todo el artículo: "100% humano". Salvado. Con textos largos, y una novela es muy larga, un veredicto de mucha IA es casi infalible.
Sea como sea, lo interesante es que ya hay una herramienta que está funcionando mejor y lo que parecía imposible (detectar a listillos por escrito) ahora es bastante posible. No sé cómo acabará esto, ni si se impondrá en universidades y empresas o ni siquiera si se aceptarán sus resultados como indicio de fraude.
Los humanos somos los mejores para pensar maneras de engañar a una máquina. Desde que salió la polémica de Orélien, hay montones de personas en redes que se dedican a tratar de hacer quedar mal a Pangram. Es lógico.
A pesar de eso, hay dos cosas buenas que ya ha traído algo como Pangram:
a/ Lo que más me flipó del caso francés es oír en la tele francesa a supuestos críticos y expertos elogiar de manera estrambótica el libro de Orélien. Estaba el autor en el plató y parecía darle vergüenza oír cómo describían su prosa y la fuerza de un libro antológico: "Cada frase lleva en ella la posibilidad de aforismo", decía un crítico, que es algo que ChatGPT hace bastante bien. Viendo todo lo que ha pasado luego, donde es razonable pensar que la IA tenga un papel, esos elogios son tremendamente ridículos.
En parte siempre ha sido así y la tele no es la universidad. Pero igual esta limpieza temporal de la IA hace que busquemos mejores maneras de valorar y elogiar un texto.
b/ He explicado más arriba que llevo tiempo observando opiniones y artículos sobre Pangram. Es mi trabajo. Siempre hay dudas razonables. Pero sobre todo veo a un grupo de gente tratando de dar con una herramienta aceptable para detectar textos escritos con IA.
Es un debate razonable y que necesita de opiniones y pruebas razonadas de todo el mundo. También veo gente gritando con que es imposible que funcione algo así, que nos engañan, que nunca será fiable del todo. Es en parte cierto. Pero tanto grito y gesticulación en un debate que requiere calma me parece ahora más sospechoso, como si quisieran defenderse preventivamente de algo.
Por último, no sé si un lugar como la universidad es el sitio de Pangram. Tampoco sé si igual se acaba aceptando la IA para escribir y ya. Un diminuto porcentaje de falsos positivos aún puede afectar a docenas de alumnos cuando se prueban miles de textos. No solo sería injusto, sino que la universidad debe ser un lugar de aprendizaje y no de policía. Igual es mejor pensar en métodos sin necesitar Pangram.
Fuente: El Pais
