¿Las respuestas de ChatGPT tienen un límite de caracteres o de palabras?

ChatGPT es una gran noticia. Pero, ¿cuáles son las respuestas que recibe de este chatbot de uso múltiple?

Establecer esto no es tan simple como se puede pensar. Para empezar, haga esta misma pregunta a ChatGPT y tendrá la seguridad de que no hay límites establecidos para la longitud de sus respuestas.

Sin embargo, como descubrimos aquí, no es tan sencillo. Hay límites ocultos para la longitud de una respuesta de ChatGPT, pero también hay algunas soluciones ingeniosas y sencillas para ayudarlo a obtener respuestas más largas.

¿Cómo determina ChatGPT la longitud de una respuesta?

El funcionamiento de ChatGPT es complejo, y la longitud de la respuesta varía según lo que se pregunte y el nivel de detalle solicitado. Como muestra la siguiente captura de pantalla, ChatGPT afirma que no hay límites estrictos.

Esto no es lo que encontramos. El siguiente ejemplo muestra que ChatGPT detiene repentinamente una respuesta a la mitad de una oración. Le pedimos que redactara un ensayo de mil palabras sobre los beneficios de una economía circular. ChatGPT dejó de responder cuando llegó a las 677 palabras.

Repetimos la prueba varias veces con diferentes preguntas, y cada vez se detenía a la mitad de la oración; en ocasiones, esto iba acompañado de un error de red. Este es un error común, y hay varias formas de corregir errores de red en ChatGPT.

Parte de la respuesta de por qué sucede esto radica en algo llamado sistema de fichas.

¿Qué es el sistema de tokens que usa ChatGPT?

En lugar de un simple recuento de palabras para determinar la longitud de las consultas y las respuestas, ChatGPT utiliza un sistema de fichas. Esto desglosa cada entrada y salida en una serie de tokens que se utilizan para clasificar el tamaño de la solicitud y la respuesta.

Si bien el conteo de palabras juega un papel en esto, no es toda la historia. Por ejemplo, el siguiente ejemplo se ingresó en Herramienta tokenizadora de OpenAi.

La oración y la respuesta se "tokenizaron" a un valor de nueve tokens. Esto es consistente con la "regla general" de OpenAI de que un token equivale a tres cuartas partes de una palabra.

El modelo GPT 3.5 restringe las preguntas y los datos de los usuarios a 4097 tokens. Según los cálculos de OpenAI, esto equivale a unas 3000 palabras. Sin embargo, es importante señalar que este límite se aplica tanto a la respuesta como a la pregunta.

Si bien todo esto está bien en teoría, los resultados que encontramos nunca se acercaron a estos límites. La respuesta incompleta que devolvió ChatGPT en nuestra prueba anterior pesó solo 798 tokens.

¿Por qué las respuestas de ChatGPT son limitadas?

Esta tecnología incipiente se ha convertido rápidamente en el desarrollo tecnológico más comentado de este siglo. Esto ha generado una gran demanda de ChatGPT. En última instancia, esta demanda ha reducido efectivamente las respuestas muy por debajo de los límites establecidos.

Si bien no hay confirmación oficial de esto, parece haber un límite de facto de alrededor de quinientas palabras o 4000 caracteres.

Para enfatizar, esta no es una regla fija: generamos resultados que excedieron esto en casi doscientas palabras. Sin embargo, esto puede considerarse un límite superior seguro para lograr respuestas completas.

Cómo obtener respuestas más largas de ChatGPT

Una vez que comprenda que existe un "límite oculto" para las respuestas de ChatGPT, existen algunas formas simples de ayudarlo a obtener respuestas más completas.

1. Pídele a ChatGPT que continúe: Si ChatGPT se detiene a la mitad de una respuesta, entonces una opción es simplemente pedirle que continúe. En el siguiente ejemplo, escribimos "Continuar" y se agregaron otras doscientas palabras a la respuesta.
2. Divide tu pregunta en secciones más pequeñas: Por ejemplo, le pedimos varias veces que escribiera un ensayo sobre el impacto de la IA en la sociedad. Cada vez que la respuesta se detuvo. Una opción aquí es pedirle que señale con viñetas algunos temas para un ensayo sobre IA, luego use las viñetas proporcionadas como indicaciones individuales.
3. Utilice la opción Regenerar: Si bien esto podría arrojar el mismo error, sin nada que perder, siempre vale la pena intentarlo.
4. Especifique un límite superior para su recuento de palabras en su aviso: La siguiente imagen ilustra cómo se puede usar esto para manipular el número máximo de palabras en una respuesta.

Estos consejos lo ayudarán a obtener respuestas más completas de ChatGPT y evitar el límite no oficial en la longitud de sus respuestas.

ChatGPT: calidad sobre cantidad

Si bien no hay límites establecidos para la longitud de las respuestas de ChatGPT, la plataforma parece imponer un límite de alrededor de quinientas palabras o 4000 caracteres.

Esto se puede atribuir principalmente a la gran demanda de ChatGPT. Esto ha llevado a respuestas incompletas y respuestas detenidas a la mitad de la oración, pero existen soluciones sencillas para ayudarlo a obtener respuestas más largas.

A pesar de sus limitaciones, ChatGPT sigue siendo un desarrollo tecnológico notable que seguirá desarrollándose y ampliando los límites de calidad y cantidad de su producción.