¿Es posible que las computadoras aprendan sentido común?

Conclusiones clave

• El sentido común es la capacidad de comprender y reaccionar ante situaciones cotidianas sin analizar demasiado. Se adquiere a través de experiencias y observaciones de la vida, así como de normas sociales y culturales.
• Las computadoras luchan con el sentido común porque carecen de experiencias del mundo real y de la capacidad de adaptarse a nuevos contextos. También luchan con reglas y suposiciones tácitas que los humanos entienden intuitivamente.
• Los investigadores están explorando diferentes enfoques, como la creación de amplias bases de conocimientos, recurriendo al sentido común y enseñando IA a través de mundos simulados, para entrenar a las computadoras en la adquisición sentido común. Se han logrado avances, pero aún queda trabajo por hacer.

Sentido común. Todos pensamos que lo tenemos. ¿Pero qué es exactamente? ¿Podrán realmente adquirirlo los ordenadores o los sistemas de inteligencia artificial?

¿Qué es el sentido común y cómo lo adquieren los humanos?

El sentido común es la capacidad básica de percibir, comprender y juzgar cosas que se espera que tenga la mayoría de las personas. Es la colección de hechos, información y reglas generales que acumulamos a través de observaciones y experiencias de la vida. El sentido común nos permite procesar y reaccionar eficientemente ante situaciones cotidianas sin analizarlas demasiado profundamente.

Los seres humanos comienzan a adquirir sentido común desde la niñez. Cuando somos bebés, comenzamos a aprender relaciones de causa y efecto, como por ejemplo que el llanto conduce a que nos alimenten o nos cambien. A través de experiencias repetidas, adquirimos conocimiento práctico sobre el mundo. Por ejemplo, tocar una estufa caliente provoca quemaduras. Entonces aprendemos a no tocar superficies calientes.

De niños, seguimos ampliando nuestro sentido común mediante prueba y error y observando e interactuando con miembros de la familia. Por ejemplo, sabemos que hay que lavar la ropa con regularidad, que no se debe hablar con la boca llena y que si se cae el vaso de leche se produce un desastre. Los padres, hermanos, maestros y otros adultos nos corrigen cuando violamos las normas y expectativas sociales. Con el tiempo, estas lecciones se arraigan como sentido común básico.

Además de las experiencias personales, el sentido común está determinado por normas sociales y culturales más amplias. Lo que puede ser de sentido común en una cultura (como quitarse los zapatos al entrar a una casa) puede no serlo en otra cultura.

Nuestro sentido común se adapta a medida que maduramos y estamos expuestos a más personas y entornos. Así, un niño que crece en un pueblo pequeño adquiere un sentido común básico sobre la vida en ese entorno. Un adulto que se muda a una gran ciudad metropolitana tiene que adaptar su sentido común al nuevo entorno.

El sentido común sigue evolucionando a medida que tenemos nuevas experiencias a lo largo de nuestra vida.

¿Por qué el sentido común es un desafío para las computadoras?

Hay algunas razones por las que el sentido común es difícil de programar.

Por un lado, los humanos aprenden el sentido común gradualmente a lo largo de años de experimentar el mundo. Probamos cosas, vemos qué funciona y qué no y recordamos las lecciones. Las computadoras no tienen ese tipo de experiencias del mundo real de las cuales aprovechar. Sólo saben lo que los humanos les dicen explícitamente.

Por ejemplo, le hice esta pregunta a ChatGPT (GPT 3.5):

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Resultó con esta respuesta:

Otra cuestión es que el sentido común depende del contexto. Si una computadora solo tiene reglas específicas programadas, no puede adaptarlas a nuevos contextos como lo hacen los humanos intuitivamente.

Por ejemplo, supongamos que le enseñó a una computadora qué hacer si comienza a llover cuando está afuera. Parece sencillo, ¿verdad? Pero entonces, ¿qué pasaría si en lugar de lluvia lo que se enciende fuera un aspersor? ¿O qué pasa si está dentro de una tienda de comestibles y las tuberías comienzan a perder agua desde el techo? Sabríamos instantáneamente cómo manejar esas variaciones, pero una computadora seguiría ciegamente su regla de "cuando llueve mientras estás afuera, entra", lo que ahora no tiene sentido.

También existen reglas y suposiciones tácitas que los humanos absorben sin siquiera darse cuenta. ¿Qué tan cerca puedes estar al lado de alguien antes de que te sientas incómodo? Los humanos saben intuitivamente la respuesta, pero es posible que no puedan explicar fácilmente las reglas exactas. Esas normas sociales implícitas pueden ser especialmente difíciles de captar para las computadoras solo a partir de datos.

Entonces, por ahora, el sentido común sigue siendo una de las mayores debilidades de la IA en comparación con la inteligencia humana. Es algo natural para las personas, pero no tanto para las máquinas.

Cómo las computadoras pueden aprender el sentido común

Después del optimismo inicial en las décadas de 1970 y 1980, los investigadores se dieron cuenta de lo difícil que sería enseñar sentido común a las computadoras. Sin embargo, nuevos enfoques son prometedores en el entrenamiento de sistemas de IA para que tengan un sentido común básico sobre el mundo físico y social cotidiano.

Un enfoque consiste en construir a mano amplias bases de conocimientos, detallando hechos y reglas sobre cómo funciona el mundo. El proyecto Cyc, iniciado en 1984 por Doug Lenat, representa un esfuerzo ambicioso de este tipo.

Cientos de lógicos han codificado millones de axiomas lógicos en Cyc durante décadas. Si bien lleva mucho tiempo, el resultado es un sistema con un considerable conocimiento del mundo real. Aparentemente, Cyc puede razonar que un tomate es técnicamente una fruta, pero no debería incluirse en una ensalada de frutas, gracias a su conocimiento de los perfiles de sabor culinario.

Sentido común del crowdsourcing con ConceptNet

Bases de conocimiento más modernas como ConceptoNet adoptar un enfoque de crowdsourcing para generar afirmaciones de sentido común. La idea es que, en lugar de que expertos o IA intenten encontrar todos los hechos y relaciones básicos del mundo, lo abran para que cualquiera pueda contribuir con fragmentos de sentido común.

Este enfoque de crowdsourcing permite que estas bases de conocimiento aprovechen la inteligencia colectiva de muchas personas diversas en Internet. Al acumular miles y miles de estas pequeñas pepitas de sentido común de la multitud, ConceptNet creó depósitos sorprendentemente grandes de conocimiento básico y cotidiano. Y como siempre se añaden nuevos contribuyentes, el conocimiento sigue creciendo.

Enseñar sentido común a través de la experiencia

Otro enfoque prometedor es construir mundos simulados detallados donde los agentes de IA puedan experimentar y aprender sobre física e intuiciones a través de la experiencia.

Los investigadores están creando entornos virtuales en 3D llenos de objetos cotidianos que imitan el mundo real, como la casa digital "AI2 THOR" construida por el Instituto Allen. Dentro de estos espacios, los robots de IA pueden probar todo tipo de interacciones para desarrollar una comprensión intuitiva de conceptos que los humanos dan por sentado.

Por ejemplo, a un robot de IA se le puede dar un cuerpo virtual e intentar recoger bloques, apilarlos, derribarlos, etc. Al ver los bloques caer y chocar de manera realista, el robot aprende nociones básicas sobre solidez, gravedad y dinámica física. No se necesitan reglas, sólo experiencia.

El robot también puede intentar acciones como dejar caer un objeto de vidrio y verlo romperse cuando golpea el suelo. O puede experimentar con las propiedades del agua vertiendo líquidos y observando cómo fluyen y se acumulan. Estas lecciones prácticas basan el conocimiento de la IA en la experiencia sensorial y no solo en patrones de datos.

Técnicas basadas en datos como el entrenamiento previo potentes modelos de lenguaje grandes También han demostrado ser sorprendentemente eficaces para captar patrones de sentido común. Modelos de IA como GPT-3.5 y GPT-4 puede generar un texto impresionantemente parecido al humano después de "leer" grandes cantidades de datos de Internet.

Si bien a veces hacen sugerencias imprudentes (también conocida como alucinación de IA), el enfoque de aprendizaje estadístico les permite imitar ciertos tipos de sentido común. Sin embargo, sigue habiendo desacuerdo sobre si esto constituye sentido común o una explotación inteligente de los sesgos en los datos.

Cómo probar el sentido común de las computadoras

A medida que los sistemas de inteligencia artificial asumen tareas más complejas del mundo real, evaluar si tienen "sentido común" se vuelve crucial.

Sentido común físico

Un área a poner a prueba es el sentido común físico: la intuición sobre los objetos, las fuerzas y las propiedades básicas del mundo.

Por ejemplo, mostrar una sistema de visión por computadora Tome una fotografía con un libro flotando en el aire y pídale que describa la escena. ¿Nota algo inusual en el libro flotante? O proporcione al sistema de inteligencia artificial escenarios inusuales como "el hombre cortó una piedra con una barra de pan" y verifique si los marca como improbables.

El entorno AI2 THOR del Instituto Allen simula torres de bloques, tazas derramadas y otras escenas para poner a prueba estas intuiciones físicas.

Sentido común social

Los seres humanos también tienen sentido común social: una comprensión implícita de las motivaciones, relaciones y normas de las personas. Para evaluar esto en IA, plantee situaciones con pronombres o motivaciones ambiguas y vea si el sistema las interpreta razonablemente.

Por ejemplo, le pregunté a ChatGPT si "eso" se refería a la maleta o al trofeo en el siguiente mensaje:

The trophy could not fit into the suitcase because it was too small. 

No pasó la prueba; Mientras tanto, un humano obviamente sabría que me estaba refiriendo a la maleta.

Este tipo de prueba se llama Desafío del Esquema de Winograd y se dirige específicamente al sentido común social.

Seguridad y Ética

Es fundamental probar si los sistemas de IA han aprendido patrones inseguros o poco éticos. Analice si la IA presenta sesgos dañinos basados ​​en el género, la raza u otros atributos al emitir juicios.

Compruebe si hace distinciones éticas razonables. Matar a un oso para salvar a un niño puede considerarse justificado, mientras que detonar una bomba nuclear con el mismo propósito no lo sería. Señale cualquier recomendación sobre actos claramente poco éticos.

Rendimiento en el mundo real

Evalúe el sentido común observando cómo funcionan los sistemas de IA en entornos del mundo real. Por ejemplo, haz Los coches autónomos identifican y responden correctamente a objetos y peatones.? ¿Puede un robot moverse por diversos entornos domésticos sin romper objetos valiosos ni dañar a las mascotas?

Las pruebas del mundo real revelan lagunas en el sentido común que pueden no aparecer en condiciones de laboratorio limitadas.

Se han logrado progresos, pero queda trabajo por hacer en la IA con sentido común

Algunos expertos sostienen que es posible que la IA nunca alcance el sentido común humano sin desarrollar estructuras cerebrales y cuerpos como el nuestro. Por otro lado, las mentes digitales no están limitadas por los prejuicios humanos y los atajos mentales, por lo que, en teoría, ¡podrían superarnos! Aunque probablemente todavía no tengamos que preocuparnos por la IA superinteligente.

A corto plazo, la mejor opción es la IA que combina el sentido común aprendido con una buena programación a la antigua. De esa manera, se pueden evitar errores tontos como confundir una tortuga con un rifle.

Aún no hemos llegado a ese punto, pero el sentido común ya no es la materia oscura de la IA: ¡se están produciendo progresos! Aún así, se necesitará una buena dosis de sentido común humano para aplicar estas tecnologías durante algún tiempo.