Hoy en día, millones de personas confían en ChatGPT como un recurso útil, ya sea para el trabajo, la diversión o la educación. Pero, ¿puedes confiar en este chatbot de IA para proporcionar siempre los hechos? ¿ChatGPT miente alguna vez o solo te dará información objetiva?
¿De dónde obtiene ChatGPT su información?
En su período de capacitación, ChatGPT recibió datos de fuentes en toda la web, como sitios web gubernamentales y de agencias, revistas científicas, estudios, artículos de noticias, podcasts, foros en línea, libros, bases de datos, películas, documentales y redes sociales medios de comunicación.
Específicamente, ChatGPT-3 se entrenó utilizando una extensa base de datos de información que ascendía a 570 GB de datos. Como se afirma en un artículo de Enfoque científico, 300 mil millones de palabras de información se introdujeron en el sistema GPT-3 durante su desarrollo.
Algo que vale la pena señalar aquí es que ChatGPT solo ha recibido datos que existían antes de 2021. Esto significa que el chatbot no puede responder preguntas relacionadas con eventos recientes. ChatGPT tampoco tiene acceso a Internet. Los datos que recibió en el entrenamiento son los únicos que utiliza para cumplir con las solicitudes de los usuarios.
Pero, ¿ChatGPT solo le proporciona los hechos, o hay alguna información más ambigua mezclada con sus respuestas? Además, ¿ChatGPT puede mentirte?
¿ChatGPT miente?
Si bien ChatGPT a menudo brinda información veraz a los usuarios, tiene la capacidad de "mentir". Por supuesto, ChatGPT no decide mentir maliciosamente a los usuarios, ya que simplemente no puede hacerlo. Después de todo, ChatGPT es una herramienta de procesamiento de lenguaje, no una imitación de una persona real e inteligente.
Sin embargo, ChatGPT técnicamente aún puede mentir a través de un fenómeno conocido como alucinación de IA.
Alucinación de IA implica un sistema de IA que proporciona información que parece razonable o plausible pero, en realidad, no es cierta en absoluto. De hecho, la alucinación de la IA puede proporcionar información de que nunca fue alimentada durante su período de entrenamiento. Alternativamente, puede ocurrir cuando un sistema de IA proporciona información no relacionada con el aviso o la solicitud. Un sistema de IA puede incluso afirmar ser humano en un evento de alucinación.
Los sistemas de IA, como los chatbots, caen en la trampa de la alucinación por varias razones: su falta de comprensión del mundo real, errores de software y limitaciones en los datos proporcionados.
Como se indicó anteriormente, ChatGPT solo puede proporcionar información utilizando datos publicados hasta 2021, lo que ciertamente limita el tipo de indicaciones que puede cumplir.
Uno de Los grandes problemas de ChatGPT es que también puede ser víctima de sesgos a la hora de dar información a los usuarios. Incluso los creadores de ChatGPT han declarado que el sistema de IA ha sido "políticamente sesgado, ofensivo" y "objetable de otro modo" en el pasado. Según lo informado por El independiente, los desarrolladores de ChatGPT están comprometidos a abordar este problema, pero eso no significa que ya no represente un riesgo.
Cuando se le preguntó, ChatGPT declaró que las razones por las que puede proporcionar información inexacta incluyen las siguientes:
- Ambigüedad en la pregunta (indicaciones vagas y poco claras);
- Información incompleta proporcionada;
- Información sesgada o incorrecta proporcionada; o,
- Limitaciones técnicas (principalmente por falta de acceso a datos actuales).
Entonces, el mismo ChatGPT declaró que hay escenarios en los que no proporcionará información precisa a los usuarios.
En otra respuesta en la misma conversación, ChatGPT afirmó que "siempre es una buena idea verificar cualquier información [que proporcione] con otras fuentes".
¿Puedes confiar en ChatGPT?
Debido a que puede proporcionar información falsa, claramente no puedo confiar en ChatGPT 100% del tiempo.
Puede reducir el riesgo de que un chatbot de IA tenga alucinaciones al establecer parámetros específicos sobre cómo puede responderle. Sin embargo, todavía no hay garantía de que alguna información falsa no pase desapercibida.
Debido a esto, es mejor verificar cualquier información que le brinde ChatGPT, especialmente si está solicitando información sobre eventos recientes. Verificar dos veces estos datos refiriéndose a otras fuentes puede ayudarlo a determinar si ChatGPT tiene razón en lo que dice y puede evitar que tome decisiones desacertadas.
ChatGPT es útil pero no siempre veraz
Desafortunadamente, no puede confiar en ChatGPT para proporcionar información veraz e imparcial el 100 % del tiempo. Este chatbot impulsado por IA es indudablemente útil y puede ayudarlo de varias maneras, pero siempre vale la pena verificar si la información que proporciona es objetiva.