¿Preocupado por los chatbots de IA? Sus preocupaciones pueden estar arraigadas en mitos que no son ciertos. Aquí, desacreditamos algunos de los principales mitos de los chatbots de IA.
Por lo general, lleva tiempo que los mitos se perpetúen sobre cualquier tema. Dice mucho sobre los chatbots generativos de IA que tantos mitos hayan surgido tan rápidamente.
Casi en un abrir y cerrar de ojos, los chatbots de IA se han convertido en la tecnología más disruptiva del siglo. También es una tecnología envuelta en controversia, y algo de esto es una preocupación genuina. Pero los mitos están en el centro de al menos parte de la controversia.
Desenredemos la realidad y la ficción mientras exploramos los principales mitos de los chatbots de IA.
1. Los chatbots de IA son conscientes
Los chatbots como ChatGPT y Bing Chat pueden generar respuestas similares a las humanas, pero están lejos de ser conscientes. Esta habilidad es mimetismo y no sensibilidad. Estas herramientas utilizan enormes bases de datos de texto e imágenes para crear respuestas que imitan las respuestas humanas.
Es complejo, inteligente y, hasta cierto punto, se podría argumentar la presencia de inteligencia, pero no de sensibilidad. Cualquier "inteligencia" presente en estas herramientas se crea entrenándolas en cantidades masivas de datos. En este sentido, son más parecidos a una base de datos increíblemente poderosa y flexible que a un ser sensible.
2. Los chatbots pueden manejar cualquier tipo de tarea o solicitud
Si bien los chatbots pueden considerarse una especie de navaja tecnológica suiza, existen distintas limitaciones en cuanto a lo que pueden lograr. Esto es evidente cuando se trabaja con temas complejos o altamente especializados. Pero incluso las tareas simples pueden arrojarlos.
Por ejemplo, el campo emergente de los chatbots generativos de IA sería un tema que pensaría que tales herramientas sabe todo, pero intente hacerle una pregunta a ChatGPT sobre uno de sus rivales y las limitaciones son inmediatas. aparente:
Le preguntamos: "¿Qué modelo de lenguaje grande usa Google Bard?"
Ahora, para que quede claro, existen limitaciones conocidas para ChatGPT y la antigüedad de los datos a los que puede hacer referencia. Esa pregunta fue creada deliberadamente para exponer esto. Sin embargo, le hicimos la misma pregunta a Bard cuando comparando Google Bard vs. ChatGPT, y también se equivocó:
Los chatbots pueden ser inteligentes, pero no son capaces de realizar ningún tipo de tarea y, a veces, fallan en las preguntas más simples.
3. Los chatbots son una amenaza para la humanidad
El problema aquí es que la gente está mezclando herramientas de productividad con Robocop. Los chatbots pueden representar una amenaza laboral para algunas personas y pueden interrumpir ciertas industrias. Pero sería una exageración afirmar que son una amenaza para la humanidad en su conjunto.
En última instancia, la IA es una tecnología emergente que deberá ser monitoreada de cerca para asegurarse de que siga siendo una tecnología ética y segura. Pero los chatbots no están a punto de gobernar de forma suprema.
En este caso, no podríamos ponerlo mejor que ChatGPT.
Pero diría eso. ¿no es así?
4. Los chatbots de IA son infalibles
Nada mas lejos de la verdad. Como las propias herramientas se esfuerzan mucho por explicar, pueden generar información incorrecta. El problema es que los chatbots generativos de IA se basan en enormes bases de datos llamadas grandes modelos de lenguaje (LLM).
Los LLM contienen texto de una amplia gama de fuentes, todo, desde literatura hasta publicaciones en redes sociales, está incluido en los LLM. Este es el repositorio al que hacen referencia los chatbots para proporcionar sus respuestas. Cualquier error de hecho presente en estos puede manifestarse en las respuestas que brindan.
Las alucinaciones de IA son una forma común de error que con demasiada frecuencia muestra cuán falibles son estas herramientas.
5. Los chatbots reemplazarán la interacción humana
La respuesta a esta pregunta puede remontarse a la sección sobre sensibilidad. Los chatbots pueden imitar las respuestas humanas y ciertamente pueden responder de manera competente preguntas objetivas (en su mayoría) y ayudar de muchas maneras. Sin embargo, no pueden comprender las emociones, las experiencias humanas y muchos de los matices de la conversación.
La interacción humana es un proceso complejo y de varios niveles que involucra elementos como la empatía, el pensamiento crítico, la comprensión emocional y la intuición. Ninguno de estos atributos está presente en los chatbots generativos de IA.
6. Los chatbots generativos de IA solo son buenos para interacciones de texto
Este tiene al menos un toque de verdad al respecto. Sin embargo, se han realizado avances en el campo de los chatbots generativos de IA para expandir sus capacidades más allá del texto.
Los desarrollos recientes han introducido chatbots multimodales que pueden manejar no solo texto sino también incorporar otras interacciones como imágenes, videos e incluso comandos de voz.
La velocidad a la que se desarrollan estas herramientas es parte de la razón detrás de este mito. Los límites de lo que esta tecnología puede hacer se están empujando a un ritmo rápido y las iteraciones iniciales que se basaban principalmente en texto ya se consideran anticuadas.
7. Los chatbots siempre brindarán respuestas imparciales
Desafortunadamente, este no es el caso. El potencial de respuestas sesgadas siempre está ahí con los chatbots de IA. La raíz del problema se remonta a los LLM. La gran cantidad de datos a los que hacen referencia los chatbots, inevitablemente, contiene sesgos. Estos sesgos pueden incluir género, raza, nacionalidad y sesgos sociales más amplios.
Si bien los desarrolladores se esfuerzan por minimizar el sesgo en las respuestas de los chatbots, la tarea es increíblemente desafiante y las respuestas sesgadas se filtran por la red. Inevitablemente, estas técnicas de “imparcialidad” mejorarán y el número de respuestas sesgadas disminuirá.
Sin embargo, al menos por el momento, el potencial de respuestas sesgadas es un problema sin resolver.
8. Los chatbots son en realidad humanos reales
Quizás el mito más ridículo es que detrás de cada chatbot de IA hay un ser humano real. Este está pisando una línea delicada entre la teoría de la conspiración y el mito, no nos detendremos en esto más que para decir que es una tontería.
9. Los chatbots de IA pueden programarse solos
Los chatbots deben entrenarse y programarse para realizar sus tareas de la misma manera que cualquier pieza de software debe programarse para realizar funciones específicas.
Si bien los chatbots de IA utilizan técnicas de aprendizaje automático para mejorar su rendimiento, no poseen la capacidad de programarse de forma autónoma.
El proceso de capacitación podría compararse con el proceso de prueba de software que no es de IA. La capacitación implica predefinir sus objetivos, diseñar su arquitectura y enseñarles a generar respuestas basadas en los datos del LLM correspondiente. Todo este progreso aún requiere intervención humana y experiencia en programación.
AI Chatbots: separando la realidad de la ficción
La rápida aceptación del uso de estas herramientas ha perpetuado una gran cantidad de mitos. Algunos de ellos son tonterías absolutas, y algunos de ellos tienen una pizca o dos de verdad. Lo que está claro es que hay mucha información errónea en torno a los chatbots de IA que debe aclararse.
Al examinar los hechos y disipar la ficción, podemos obtener una mejor comprensión de las verdaderas capacidades y limitaciones de estas poderosas herramientas. Los AI Chatbots no son los únicos que perpetúan rápidamente los mitos, hay muchos otros mitos que circulan sobre la IA en general.