A medida que el campo de la inteligencia artificial continúa evolucionando a un ritmo vertiginoso, un nuevo contendiente está listo para ingresar al campo de juego. TruthGPT, un chatbot de IA propuesto por el multimillonario tecnológico Elon Musk, está generando mucho revuelo en línea.
Pero, ¿qué es TruthGPT? ¿Por qué Elon Musk quiere crearlo? ¿Y en qué se diferenciará de las herramientas de IA que ya tenemos?
¿Qué es TruthGPT?
TruthGPT es un modelo de IA propuesto destinado a abordar los males de los modelos existentes que impulsa a los gustos de ChatGPT y Bard, con especial énfasis en la verdad y la seguridad. Según Elon Musk, TruthGPT será una IA de "búsqueda máxima de la verdad" que comprende la naturaleza de la universo y es poco probable que destruya a la humanidad porque ve a los humanos como un componente crítico del universo.
¿Máxima IA que busca la verdad? Entender la naturaleza del universo?
Se le perdonará si la descripción de Musk no le da una idea clara de lo que está tratando de construir exactamente. Sin embargo, obtendrá una mejor idea de lo que está hablando al ver por qué está tratando de construirlo en primer lugar.
¿Por qué Elon Musk está construyendo TruthGPT?
En una entrevista con Fox News, Elon Musk expresó su preocupación sobre cómo las grandes empresas de IA pueden perpetuar el sesgo y la desinformación a través de los chatbots de IA, una herramienta emergente de la que la gente depende cada vez más para obtener información. Elon Musk también comentó sobre la amenaza que representa la IA para la humanidad, enfatizando la posibilidad de un apocalipsis de IA, un escenario en el que los sistemas de IA podrían tomar el control de nuestra vida diaria.
Señalando a empresas como OpenAI y Google, que, en su opinión, no están haciendo lo suficiente en las áreas de seguridad de la IA y protección contra la desinformación, Elon Musk propuso una tercera fuerza: TruthGPT. El CEO de SpaceX y Tesla quiere crear TruthGPT como contrapeso a Bard de Google y ChatGPT de OpenAI. La idea es crear un modelo de IA que intente en la medida de lo posible ser veraz en la información que proporciona.
Elon Musk, quien recientemente escribió una carta abierta pidiendo un moratoria en el desarrollo de una poderosa IA modelos (específicamente aquellos más potentes que GPT-4), cree que la IA se está moviendo demasiado rápido. Él cree que debemos reducir la velocidad y reevaluar nuestro enfoque de la seguridad de la IA antes de que la IA "tome el control". TruthGPT es un modelo de lenguaje grande (LLM) que promete abordar estas dos preocupaciones principales con la IA actual. sistemas
¿Cómo sería TruthGPT?
El primer indicio de cómo se vería TruthGPT está en el nombre. Teniendo en cuenta el apéndice "GPT", TruthGPT probablemente tendrá una arquitectura similar a ChatGPT. Recuerde, Elon Musk ayudó a ensamblar OpenAI y al equipo que construyó el modelo GPT de ChatGPT.
Además, teniendo en cuenta que la arquitectura de GPT ha demostrado ser un éxito tanto técnico como comercial, seguir un camino diferente probablemente llevará demasiado tiempo y será costoso. El tiempo es una cosa que Elon Musk no tiene si quiere construir algo que realmente pueda competir cara a cara con la IA de última generación lo antes posible. Por lo tanto, no se emocione demasiado: es posible que TruthGPT no sea tan radicalmente diferente de las herramientas de inteligencia artificial que ya tenemos.
La precisión, o en la jerga de Elon Musk, "veracidad" de un modelo de IA depende en gran medida de sus datos de entrenamiento y del algoritmo de entrenamiento. No estamos exactamente seguros de cómo se obtendrían los datos de capacitación de TruthGPT, pero para tener la mejor oportunidad de crear un LLM que sea tan "veraz" como sea posible, TruthGPT de Elon Musk tendría que priorizar los datos de "fuentes veraces". Pero ese es precisamente el problema. La verdad es un concepto muy subjetivo. Lo que es cierto para mí puede no serlo para ti.
Entonces, ¿es esta idea de una IA máxima que busca la verdad incluso práctica?
Por qué construir TruthGPT es un gran desafío
Una vez tú entender cómo funcionan los modelos de lenguaje grandes como GPT, queda claro que no es práctico estar en lo correcto en todo momento. Por lo general, entrenado en un gran conjunto de datos de Internet, muchos de ellos, como era de esperar, serán información falsa, y los LLM no tienen una forma inerte de distinguir los hechos de la ficción.
La mejor intervención suele ser de entrenadores humanos que intentan enseñar al modelo de lenguaje qué es un buen comportamiento y qué es malo. Pero los entrenadores humanos están sesgados. El sesgo se pasa a los modelos de IA, frustrando todo el propósito de una "IA máxima que busque la verdad". Tenga en cuenta que no estamos hablando de parcialidad o prejuicio absoluto contra un pueblo o de otra manera. Es el sesgo más sutil sobre cómo interpretas el lenguaje, las situaciones, los desafíos, etc., lo que se filtra en el proceso. Los humanos son humanos, después de todo.
Por supuesto, la precisión también se puede abordar desde el lado del algoritmo. Sin embargo, independientemente del algoritmo, la ambigüedad del idioma sigue representando un gran problema para la precisión de los modelos de IA. Incluso los humanos a menudo tienen dificultades para interpretar con precisión el significado de una oración o frase, lo que genera información errónea. Para los modelos de IA, la ambigüedad puede dar lugar a malas interpretaciones que den lugar a imprecisiones.
Para Musk, TruthGPT parece ser una oportunidad para crear un modelo de IA que considere adecuado para entregar la verdad. Cómo sucedería eso sin introducir sus propios prejuicios es otra pregunta que nos lleva de vuelta al comienzo de la conversación. ¿En qué se diferencian las opiniones de Musk sobre lo que está sesgado o no de las de aquellos que entrenaron y dirigieron ChatGPT?
¿Es TruthGPT una posibilidad emocionante?
Los planes de Elon Musk para TruthGPT parecen nobles y encomiables. Sin embargo, construir un modelo de IA con una incidencia insignificante de imprecisiones es una tarea difícil.
Si bien esperaríamos que un multimillonario tecnológico que haya desmitificado la ciencia espacial pueda lograr algo de esta naturaleza, algunas cosas son más fáciles de decir que de hacer.
