Solo en los últimos años, las capacidades de la IA han avanzado drásticamente. Hoy, podemos usar la IA para crear arte, escribir historias, aprender sobre el mundo y mucho más. Pero, ¿todo esto está sucediendo demasiado pronto? ¿Se está desarrollando la IA demasiado rápido? ¿Qué señales hay que sugieran esto?
¿Por qué la gente está preocupada por la IA?
A fines de marzo de 2023, el Future of Life Institute publicó en línea un documento titulado "Pausar los experimentos gigantes de IA: una carta abierta". El documento presentó argumentos en contra del desarrollo de IA más allá de la sofisticación de GPT-4, la última versión de OpenAI de un chatbot impulsado por IA.
Dentro de la carta, se escribió que "los sistemas de IA con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad", y que "los poderosos sistemas de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejable."
Varias figuras prominentes en el ámbito tecnológico, incluidos Steve Wozniak y
Elon Musk ha firmado la carta y quiere pausar el desarrollo de la IA. Esta petición de detener el desarrollo de la IA ha puesto en duda cuán peligrosa se está volviendo la IA y los riesgos que representa para la vida humana.Entonces, ¿qué señales indican que la IA se está moviendo demasiado rápido?
1. Competencia con humanos
Ya hemos visto que la tecnología reemplaza a los trabajadores humanos en innumerables escenarios. Cuando se dirige a un restaurante de comida rápida, ahora puede ordenar a través de una pantalla de computadora, y cuando quiere comprar comestibles, puede pagar con un sistema automatizado. Esta puede ser una opción rápida y conveniente, pero a medida que la automatización se vuelve más prominente en varias industrias, la necesidad de trabajadores humanos está disminuyendo.
Aquí es donde comienza el problema. Por supuesto, las personas necesitan trabajar para mantenerse, pero el aumento de la automatización lo está haciendo mucho más difícil. Este es especialmente el caso de los trabajadores con salario mínimo, como los del servicio de alimentos, la producción y la industria minorista. Las tareas básicas, como verificar pedidos, recoger cargas y limpiar, pueden ser realizadas por máquinas. La integración de la IA significa que es posible que pronto ya no necesitemos operadores para esta tecnología.
fue informado por pila de formularios que el 76% de las empresas utilizan la automatización para estandarizar o automatizar los flujos de trabajo diarios. Y con Zapier informando que el 94% de los trabajadores han declarado que su trabajo implica tareas repetitivas y que consumen mucho tiempo, La automatización impulsada por IA podría convertirse muy fácilmente en una parte mayoritaria de la fuerza laboral global en todos industrias
2. Fomentar la pereza humana
Uno de los beneficios clave de la IA es que puede simplificar muchas tareas. Pero esta comodidad puede fácilmente dar paso a la pereza. Y, en algunos casos, ya lo ha hecho.
Tome ChatGPT, por ejemplo. Puedes usar ChatGPT para hacer una variedad de cosas como escribir ensayos, investigar temas, elaborar chistes, traducir textos y mucho más. Tener un servicio que pueda ejecutar tareas rápidamente por usted es excelente, pero también nos lleva a la autocomplacencia. El esfuerzo y la creatividad atrofiados de esta manera ciertamente pueden tener un efecto negativo en la humanidad en su conjunto, que es una razón clave por la que tanta gente está preocupada por la IA.
Estamos tan acostumbrados a los servicios impulsados por IA en nuestros días modernos que, naturalmente, hemos depositado mucha confianza en ellos. Por ejemplo, el asistente virtual de Microsoft, Cortana, utiliza el aprendizaje automático y la inteligencia artificial para ejecutar los comandos de los usuarios. Muchos otros asistentes virtuales, incluido Siri de Apple, también usan IA para funcionar.
Confiar en esta tecnología puede ser seguro, pero realmente no se sabe, especialmente dado que la IA aún se encuentra en una etapa de desarrollo.
3. La difusión de información falsa
En los ámbitos principales, la IA ha ganado mucha notoriedad a través de su capacidad para crear arte, imágenes y videos. Los servicios impulsados por IA no solo se pueden usar para crear arte, sino que también pueden crear una forma particularmente controvertida de medios conocida como falsificaciones profundas. Los deepfakes son videos que muestran la cara de una persona superpuesta al cuerpo de otra persona.
Esto suena bastante divertido, pero es muy fácil que se use incorrectamente.
Ya hay miles de videos de celebridades y figuras políticas que parecen decir cosas increíblemente lascivas e inapropiadas a través de deepfakes. Si bien algunos deepfakes son muy fáciles de identificar, algunos son tan sofisticados que es difícil discernir si son reales o no. Cuando esto sucede, las personas pueden suponer que una figura pública ha dicho algo que, en realidad, nunca fue dicho por ellos.
A partir de esto, la gente hará opiniones sobre estos videos, contribuyendo así a la difusión de información errónea en línea.
Además, los chatbots impulsados por IA también pueden brindar a los usuarios información falsa. Chatbots como ChatGPT, Boost. AI y Drift pueden proporcionar a los usuarios mucha información, pero esta información no siempre es necesariamente precisa. Como se discutió por El guardián, los chatbots de IA no están comprometidos de ninguna manera a brindarle información veraz, lo que significa que las noticias falsas pueden pasar desapercibidas muy fácilmente y llegar a usted.
4. La creación de malware
A principios de 2023, comenzó a circular una noticia sobre actores maliciosos que crean malware usando ChatGPT. En este caso, la firma de analistas cibernéticos Check Point Research descubrió que las personas estaban discutiendo los beneficios de usar ChatGPT para crear malware en un foro de piratería. El autor de la publicación del foro compartió un ladrón de información que había escrito en Python usando ChatGPT, alentando a otros actores maliciosos a crear malware usando el chatbot.
Los programas de malware deben codificarse, lo que puede llevar mucho tiempo, especialmente si el creador no usa una plantilla de un programa preexistente.
Al usar ChatGPT, los actores maliciosos no solo pueden agilizar el proceso de creación de malware, sino que las personas con menos conocimientos tecnológicos pueden crear malware. A medida que la sofisticación de la IA continúa avanzando, es posible crear malware increíblemente sofisticado que pueda eludir la detección antivirus, la autenticación, los firewalls y otras medidas de protección.
5. La falta de regulación
Un problema común en la industria de la tecnología es la falta de regulación para los servicios más nuevos, como las plataformas basadas en cadenas de bloques y los productos de inteligencia artificial. Algunos pueden considerar que la falta de regulación es algo bueno, pero también puede dar lugar a prácticas ilícitas.
La falta de regulación no solo puede conducir a un aumento de las estafas y los delitos cibernéticos impulsados por la IA, sino que la forma en que los investigadores desarrollan tecnologías de IA también puede comenzar a cruzar algunas fronteras serias. Hay consideraciones éticas que deben tenerse en cuenta cuando se trata de IA. ¿Puede un sistema volverse demasiado consciente? Que tipo de efectos tendrá la IA en la vida humana? ¿Deberíamos aprovechar la IA de esta manera? La lista de preguntas sigue y sigue.
Sin regulación, algunas empresas pueden comenzar a traspasar los límites morales, lo que, a su vez, podría ser una muy mala noticia para el público en general.
La IA se está moviendo a un ritmo rápido y ciertamente plantea riesgos
No se puede negar que el potencial de la IA es enorme, pero esto debe aprovecharse adecuadamente para reducir la posibilidad de que las cosas se salgan de control. Ya hemos visto que la IA se usa de manera maliciosa, por lo que no se sabe cómo podría desarrollarse este problema a medida que las cosas avanzan. El tiempo dirá si la IA se convierte en una bendición o una maldición en nuestro mundo, y la forma en que se maneja ahora seguramente desempeñará un papel en este resultado.
