El chatbot automatizado impulsado por IA de OpenAI, ChatGPT, ha arrasado en Internet, pero no sin crear algunos problemas en el camino. Con escritores, codificadores, especialistas en marketing y aparentemente todos los demás que usan ChatGPT para generar contenido, las empresas de todo el mundo se enfrentan a un tsunami de contenido generado por IA.
Con problemas de plagio y contenido robado constantemente en torno a ChatGPT y su producción, OpenAI ahora ha lanzado un nuevo GPT-Classifier, una herramienta diseñada para detectar y revelar si el texto que está leyendo fue obra de ChatGPT o de uno de sus otros Herramientas GPT.
OpenAI lanza el clasificador GPT para ayudar a verificar el texto escrito por IA
Anuncio de OpenAI viene como escrutinio de la escritura de IA y el texto generado por IA intensifica y las empresas integran la salida de ChatGPT.
El nuevo GPT-Classifier intenta averiguar si un fragmento de texto determinado fue escrito por humanos o el trabajo de un generador de IA. Si bien ChatGPT y otros modelos de GPT están ampliamente capacitados en todo tipo de ingreso de texto, el La herramienta GPT-Classifier está "ajustada en un conjunto de datos de pares de texto escrito por humanos y texto escrito por IA en el mismo tema".
Entonces, en lugar de recoger información y recrear su mejor aproximación, el clasificador GPT intenta comparar similitudes entre texto humano conocido y texto de IA conocido para encontrar discrepancias que revelen la fuente escritor.
La detección de GPT-Classifier está actualmente limitada
Si bien la idea de detectar fácilmente el texto generado por IA será música para los oídos de los editores y educadores, OpenAI ha advertido que su "clasificador no es totalmente confiable".
Actualmente, GPT-Classifier "identifica correctamente el 26 % del texto escrito por IA" y etiqueta el 9 % del texto humano como escrito por IA. OpenAI también señala que la precisión de la herramienta "normalmente mejora a medida que aumenta la longitud del texto de entrada".
Una prueba superficial del clasificador GPT detectó un ejemplo generado por humanos y lo marcó como "muy poco probable que sea AI-generated", y también indicó correctamente que un fragmento generado por ChatGPT en problemas de USB era "posiblemente AI generado."
La demanda de detección de ChatGPT es alta
Incluso con las limitaciones del GPT-Classifier, es probable que la demanda de una detección confiable de ChatGPT haga que muchos recurran a esta herramienta. El compromiso de OpenAI de construir y lanzar una herramienta gratuita de detección de GPT es importante porque a medida que más estudiantes, Los escritores, programadores y otros usan herramientas de generación de texto de IA, comprender y detectar esta entrada se volverá vital.
Por ahora, aunque GPT-Classifier está funcionando y disponible para pruebas, es mejor tomar su etiquetado con pinzas.
