Los empleados de Samsung filtraron accidentalmente datos privados de la empresa a través de ChatGPT, un ejemplo de por qué la IA es una amenaza tan grande para su privacidad y seguridad.
ChatGPT se ha convertido en un problema importante de seguridad y privacidad porque muchos de nosotros compartimos distraídamente nuestra información privada en él. ChatGPT registra todas las conversaciones que tiene con él, incluidos los datos personales que comparte. Aún así, no sabría esto a menos que haya investigado la política de privacidad, los términos del servicio y la página de preguntas frecuentes de OpenAI para armarlo.
Es lo suficientemente peligroso como para filtrar su propia información, pero dado que las grandes empresas utilizan ChatGPT para procesar información todos los días, esto podría ser el comienzo de un desastre de fuga de datos.
Samsung filtró información confidencial a través de ChatGPT
De acuerdo a gizmodo, los empleados de Samsung filtraron por error información confidencial a través de ChatGPT en tres ocasiones distintas en el lapso de 20 días. Este es solo un ejemplo de lo fácil que es para las empresas comprometer la información privada.
ChatGPT está bajo fuego público por sus problemas de privacidad, por lo que es un descuido considerable que Samsung haya permitido que esto suceda. Algunos países incluso han prohibido ChatGPT para proteger a sus ciudadanos hasta que mejore su privacidad, por lo que pensaría que las empresas serían más cuidadosas con la forma en que su personal la usa.
Afortunadamente, parece que los clientes de Samsung están a salvo, al menos por ahora. Los datos violados pertenecen solo a las prácticas comerciales internas, un código propietario que estaban resolviendo y las actas de una reunión del equipo, todo enviado por los empleados. Sin embargo, habría sido igual de fácil para el personal filtrar la información personal de los consumidores, y es solo cuestión de tiempo antes de que veamos a otra empresa hacer exactamente eso. Si esto sucede, podríamos esperar ver un aumento masivo en las estafas de phishing y robo de identidad.
Aquí también hay otra capa de riesgo. Si los empleados usan ChatGPT para buscar errores como lo hicieron con la filtración de Samsung, el código que escriban en el cuadro de chat también se almacenará en los servidores de OpenAI. Esto podría conducir a infracciones que tienen un impacto masivo en las empresas que solucionan problemas de productos y programas inéditos. Incluso podemos terminar viendo información como planes comerciales no publicados, lanzamientos futuros y prototipos filtrados, lo que resulta en enormes pérdidas de ingresos.
¿Cómo ocurren las fugas de datos de ChatGPT?
Política de privacidad de ChatGPT deja en claro que registra sus conversaciones y comparte los registros con otras empresas y sus entrenadores de IA. Cuando alguien (por ejemplo, un empleado de Samsung) escribe información confidencial en el cuadro de diálogo, se registra y guarda en los servidores de ChatGPT.
Es muy poco probable que los empleados hayan hecho esto a propósito, pero esa es la parte aterradora. La mayoría de las violaciones de datos son causadas por errores humanos. A menudo, esto se debe a que la empresa no ha educado a su personal sobre los riesgos de privacidad del uso de herramientas como la IA.
Por ejemplo, si pegan una gran lista de contactos en el chat y le piden a la IA que aísle los números de teléfono de los clientes de los datos, ChatGPT tiene esos nombres y números de teléfono en sus registros. Tu información privada está a merced de empresas con las que no la compartiste, que pueden no protegerla lo suficientemente bien como para mantenerte a salvo. Hay algunas cosas que puede hacer para manténgase a salvo después de una violación de datos, pero las empresas deben ser responsables de evitar fugas.
Moraleja de la historia: no le cuentes a ChatGPT tus secretos
Puede usar ChatGPT de manera segura para cientos de tareas diferentes, pero organizar información confidencial no es una de ellas. Debe tener cuidado de no escribir nada personal en el cuadro de chat, incluido su nombre, dirección, correo electrónico y número de teléfono. Es fácil cometer este error, por lo que debe tener cuidado de verificar sus indicaciones para asegurarse de que nada haya ingresado accidentalmente.
La fuga de Samsung nos muestra cuán real es el riesgo de una fuga de datos relacionada con ChatGPT. Desafortunadamente, veremos más de este tipo de errores, quizás con un impacto mucho mayor, ya que la IA se convierte en una parte central de la mayoría de los procesos comerciales.
