La inteligencia artificial llega al aula: ¿qué desafíos y tensiones se presentan para docentes y estudiantes?

Sociedad

¿Cuáles son las herramientas para diferenciar si un texto lo ha escrito un humano o ChatGPT?

El impacto de ChatGPT en la innovación educativa y en otras áreas en las que el procesamiento del lenguaje natural y la generación de texto son cruciales es difícil de medir con exactitud debido a su alcance significativo. No obstante, el uso excesivo de esta herramienta plantea cuestiones éticas importantes, que han llevado a la necesidad de encontrar formas de detectar si un contenido ha sido generado por la IA en lugar de por un ser humano.

Actualmente, existen herramientas especializadas en la detección de textos generados por IA, que incluyen las siguientes opciones destacadas:

ChatGPT Detector

ChatGPT Detector es una herramienta que cuenta con la capacidad de identificar si un texto ha sido generado por ChatGPT. Esta “habilidad” se logra gracias al uso de funciones lingüísticas y clasificadores basados en modelos de lenguaje pre entrenados. Sus análisis arrojan resultados que se clasifican como "humano" o "ChatGPT", y proporcionan una probabilidad de acierto expresada en porcentaje.

GPTZero

GPTZero, creado por Edward Tian (un estudiante de la Universidad de Princeton), es una herramienta que se encarga de identificar textos generados por chatbots, utilizando la medida de "perplejidad" o aleatoriedad del texto como criterio. Esta medida indica qué tan bien un bot puede predecir un texto y, por tanto, cuanto mayor sea este indicador, mayor será el nivel de caos en el escrito y, por consiguiente, mayor será la probabilidad de que haya sido producido por una herramienta como ChatGPT.

Writer

Writer es una herramienta de inteligencia artificial para equipos que funciona como asistente de escritura y también incluye un detector de contenido producido por herramientas de IA. Su uso es muy sencillo: basta con copiar y pegar el texto o la URL donde se encuentra alojado y, en cuestión de segundos, el sistema realiza un análisis que proporciona un resultado de probabilidad de que el escrito haya sido generado por un ser humano.

Las herramientas de detección no son infalibles

Por lo general, las herramientas de detección de texto generado por las IA no son infalibles y muchas veces pueden fallar. En esta ocasión, lo comprobamos al utilizar un párrafo escrito por una persona y otro reescrito por la herramienta de ChatGPT.

En varias ocasiones, estas herramientas no estuvieron a la altura y no fueron capaces de identificar los párrafos escritos por un humano y los que fueron generados a través de la inteligencia artificial. A continuación, te lo comentamos con el siguiente ejemplo:

• El texto original redactado por un humano fue el siguiente: “GPTZero, creado por Edward Tian (un estudiante de la Universidad de Princeton), es una herramienta que se encarga de identificar textos generados por chatbots, utilizando la medida de "perplejidad" o aleatoriedad del texto como criterio. Esta medida indica qué tan bien un bot puede predecir un texto y, por tanto, cuanto mayor sea este indicador, mayor será el nivel de caos en el escrito y, por consiguiente, mayor será la probabilidad de que haya sido producido por una herramienta como ChatGPT”.

• Por otro lado, este texto fue reescrito por una inteligencia artificial (ChatGPT) y las herramientas no pudieron detectarlo. “GPTZero es una herramienta desarrollada por Edward Tian, un estudiante de la Universidad de Princeton, que se enfoca en detectar textos generados por chatbots utilizando la medida de "perplejidad" como criterio. Esta medida se refiere a la aleatoriedad del texto y muestra qué tan bien un bot puede predecir un texto. Cuanto mayor sea el indicador de perplejidad, mayor será el nivel de caos en el escrito, lo que sugiere que es más probable que el texto haya sido producido por una herramienta como ChatGPT”.

Texto generado con GPTZero

(Imagen: texto generado por Writer)

Es evidente que, en especial cuando se trata de textos en español, que estas herramientas todavía tienen un amplio margen de mejora. No obstante, se sabe que están en constante evolución y es posible que en un futuro próximo sean capaces de proporcionar resultados más precisos.

En resumen, la mejor manera de determinar si un texto ha sido generado por ChatGPT o escrito por una persona es examinar cuidadosamente el texto y considerar las señales y pistas mencionadas anteriormente. Sin embargo, a medida que los modelos de lenguaje continúan mejorando y evolucionando, puede ser cada vez más difícil distinguir entre texto generado por una máquina y texto escrito por un ser humano.