Los asistentes de IA comparten datos confidenciales de los usuarios, según un estudio

Investigadores del University College London en el Reino Unido y de la Universidad de Reggio Calabria en Italia analizaron diez asistentes de IA que deben descargarse e instalarse en una computadora o un teléfono móvil para su uso y descubrieron que recopilan muchos datos personales sobre la actividad en línea de los usuarios.

El análisis reveló que varios asistentes transmitieron el contenido completo de las páginas web, incluida la información visible en la pantalla, a sus servidores.

Uno de los asistentes de IA, Merlín, capturó entradas de formularios como información bancaria o de salud, mientras que ChatGPT, Copilot, Monica y Sider pudieron inferir atributos del usuario como edad, género, ingresos e intereses, y usaron esta información para personalizar las respuestas incluso en diferentes sesiones de navegación.

Esta recopilación e intercambio de datos no es trivial. Más allá de vender o compartir datos con terceros, en un mundo donde los ciberataques masivos son frecuentes, no hay forma de saber qué sucede con los datos de navegación una vez recopilados", advirtió Anna Maria Mandalari, una de las autoras del estudio, citada en un comunicado del University College de Londres.

Para el estudio, los investigadores simularon escenarios de navegación del mundo real creando el personaje de un "millonario rico [nativo digital] de California" en los Estados Unidos, que utilizaron para interactuar con los asistentes mientras completaban tareas comunes de Internet, como leer las noticias, comprar en Amazon y mirar videos en YouTube.

También se incluyeron actividades de espacio privado, como acceder a un portal de salud de la universidad, iniciar sesión en un servicio de citas o acceder a pornografía, que los investigadores asumieron que los usuarios no querían ser rastreados, ya que los datos son personales y sensibles.

Según el estudio, realizado en Estados Unidos, algunos asistentes de IA, incluidos Merlin y Sider, no dejaron de registrar la actividad cuando el usuario cambió al espacio privado como debían, violando las leyes estadounidenses de protección de datos al recopilar información confidencial de salud y educación.

Los autores del estudio argumentan la necesidad urgente de una supervisión regulatoria de los asistentes de IA para proteger los datos personales de los usuarios y recomiendan que los desarrolladores adopten principios de privacidad desde el diseño, como el consentimiento explícito del usuario para la recopilación de datos.

Lea también: Perplexity quiere comprar Chrome a Google por casi 30 mil millones de dólares