La basura no necesita sellos: ley de IA y marcado de contenido

OpenAI acaba de anunciar la implantación de "textGrain" en la UE. Es una "marca de agua" invisible para identificar texto escrito con IA que se une a la ya anunciada por Anthropic hace unas semanas, y que responden directamente a la Ley de IA europea. Como el otro sistema, lo que hace es alterar probabilidades estadísticas para poder identificar texto que ha generado, en esta caso, ChatGPT. Al contrario que el de Claude, es solo en la EU y no aplica la API (el otro es en todo el mundo).

A ver, supongo que la intención de todo esto es frenar bulos, combatir desinformación y dar transparencia al usuario. Pero el problema es que al hacerlo con todos los textos generados por IA, los daños colaterales serán tremendos. Es peor el remedio que la enfermedad.

Imagínate que en los años 90 nos hubieran obligado a estampar un sello en cada documento que escribiésemos con un procesador de textos porque te corrige las faltas ortográficas y gramaticales, te sugiere sinónimos, etc... y al final mejora "de manera antinatural" la calidad de lo que escribes. Hoy en día suena ridículo, pero seguro que hace 30 o 40 años no. Y para mí es muy parecido a lo que estamos viviendo en estos momentos.

Porgamos por caso un informe de consultoría en el que el consultor ha dedicado días a entrevistarse con la gente de la empresa, ha analizado datos, y ha usado su experiencia y buen criterio en sentar las bases del análisis. Y, claro, como es lógico hoy en día, lo ha pasado por un modelo para generar el informe final que, por supuesto, habrá implicado mucho tiempo también de revisión, tomas y dacas con el modelo, y retoques de todo tipo. ¿Es por eso un informe menos válido? ¿Es justo que el cliente lo pase por "textGrain" y que, como le dice que se ha usado IA, quede minusvalorado y flote ya una sospecha de mala praxis sobre el consultor?

La obsesión por la herramienta utilizada roza el absurdo. Lo que importa de un texto son las ideas, la estructura, el criterio y la capacidad de resolver un problema. El medio por sí solo jamás debería definir el valor del mensaje.

Además, como siempre, pagarán justos por pecadores porque la medida técnica nace coja. Quien quiera colar contenido de baja calidad sin que salte en el detector solo tiene que traducirlo a otro idioma y volverlo al español, o reescribir algunas frases para romper la marca. El detector estadístico queda inservible a la primera de cambio si uno tiene la suficiente disciplina.

Y seamos sinceros: la basura no necesita sellos. El contenido automatizado sin alma, plano y repetitivo, a estas alturas cualquiera lo debería ver a la legua y sin necesidad de análisis estadísticos.

Este tipo de marcas crean un sesgo automático. Ya hablé detenidamente de ello hace unos meses aquí: Un cuadro de Monet y el nuevo ludismo. Te recomiendo que lo eas antes de seguir si no lo has visto ya.

Es puro nuevo ludismo. Mucha gente dejará de leer aportaciones de calidad, buenos artículos técnicos o ideas valiosas solo por los prejuicios hacia la IA.

De hecho se está dando otro fenómeno derivado de este que también merece la pena comentar: ahora resulta que la gente se dedica a meter faltas y pequeñas erratas en los textos para dejar claro que no son escritos por IA. Y a gente que ya escribía muy bien antes de 2023, ahora se le acusa de usar la IA porque sus textos son "demasiado perfectos" 🤦🏻‍♂️

Es más, yo he pasado textos míos de hace 10 años por Pangram (se supone que la mejor herramienta para detectar eso) y algunos los marca al menos parcialmente como escritos por IA. Y textos escritos 100% con IA y retocados mínimamente por mí, dice que son 100% humanos. Una prueba más de la poca fiabilidad de estas herramientas.

Al final es lo de siempre: cuando el dedo señala la luna, el tonto mira al dedo. Lo que hace falta es criterio propio para desechar lo mediocre, venga de donde venga y se use la herramienta que se use. Y la IA, como cualquier otra herramienta, debe ser valorada por lo que aporta y no por el miedo o los prejuicios que genere.