Se le escapan algunos vivos a la app contra la “trampa”

La startup de investigación de inteligencia artificial OpenAI lanzó ayer una herramienta que puede determinar si un texto fue escrito por un humano o generado por una herramienta de inteligencia artificial como ChatGPT, que es de la misma empresa. Y así evitar “trampas”, por ejemplo, a la hora de presentar un trabajo en una escuela secundaria o una universidad.

OpenAI explicó que, por el momento, no puede garantizar al 100 por ciento si un texto fue creado por un humano o por un robot. “En nuestras evaluaciones sobre un ‘conjunto de desafíos’ de textos en inglés, nuestro clasificador identifica correctamente el 26 por ciento de los textos escritos por inteligencia artificial como ‘probablemente escrito por inteligencia artificial’, mientras que etiqueta incorrectamente un 9 por ciento de los textos escritos por humanos como si fueran producto de la inteligencia artificial”, detalla la empresa.

OpenAI apuntó que esta herramienta mejorará a medida que aumenta la longitud del texto que se analiza.

Asimismo, dijo que solo funciona en textos en inglés y que si un texto generado por inteligencia artificial luego ha sido editado por un humano puede hacerse pasar por un texto “humano” sin ser detectado.

Con esta herramienta buscan poder ayudar a los sectores que se podrían verse más afectados, como los educadores.

“Reconocemos que identificar el texto escrito por IA ha sido un punto importante de discusión entre los educadores y que es importante reconocer los límites y los impactos de los clasificadores de texto generados por IA en el aula”, apunta el texto.

Las escuelas de Estados Unidos, por su parte, se han apresurado a limitar el uso de ChatGPT por temor a que el software pudiera perjudicar el aprendizaje.

El lanzamiento de este nuevo sistema se produce dos meses después de que OpenAI captara la atención del mundo al presentar ChatGPT, un chatbot que mediante la inteligencia artificial puede contestar de manera coherente a casi cualquier pregunta en cuestión de segundos.