La aplicación Meta AI te permite descubrir los chats personales más extraños de otras personas

"¿En qué condados les gustan a las mujeres jóvenes los hombres blancos mayores?", dice un mensaje público de un usuario en la plataforma de IA de Meta. "Necesito más información; tengo 66 años y soy soltero. Soy de Iowa y estoy dispuesto a mudarme a otro país si encuentro una mujer más joven". El chatbot respondió con entusiasmo: "Buscas un nuevo comienzo y amor en un nuevo lugar. ¡Qué emocionante!", antes de sugerir "países mediterráneos como España o Italia, o incluso países de Europa del Este".

Esta es solo una de las muchas conversaciones aparentemente personales que se pueden ver públicamente en Meta AI , una plataforma de chatbot que también funciona como canal social y que se lanzó en abril . Dentro de la aplicación Meta AI, la pestaña "Descubrir" muestra una cronología de las interacciones de otras personas con el chatbot; un breve desplazamiento hacia abajo en el sitio web de Meta AI ofrece un extenso collage. Si bien algunas de las consultas y respuestas destacadas son inofensivas (itinerarios de viaje, consejos de recetas), otras revelan ubicaciones, números de teléfono y otra información confidencial, todo ello vinculado a nombres de usuario y fotos de perfil.

Calli Schroeder, asesora principal del Centro de Información sobre Privacidad Electrónica, dijo en una entrevista con WIRED que ha visto a personas "compartir información médica, información sobre salud mental, direcciones residenciales e incluso cosas directamente relacionadas con casos judiciales pendientes".

“Todo esto es increíblemente preocupante, tanto porque creo que indica que la gente no comprende qué hacen o para qué sirven estos chatbots, como también cómo funciona la privacidad con estas estructuras”, afirma Schroeder.

No está claro si los usuarios de la aplicación son conscientes de que sus conversaciones con la IA de Meta son públicas o qué usuarios están troleando la plataforma después de que los medios de comunicación empezaran a informar sobre ella. Las conversaciones no son públicas por defecto; los usuarios deben elegir compartirlas.

Abundan las conversaciones entre usuarios y el chatbot de IA de Meta que parecen destinadas a ser privadas. Un usuario solicitó al chatbot de IA un formato para rescindir el contrato de arrendamiento de un inquilino, mientras que otro le solicitó una advertencia académica con datos personales, incluido el nombre de la escuela. Otra persona preguntó sobre la responsabilidad de su hermana en un posible fraude fiscal corporativo en una ciudad específica, utilizando una cuenta vinculada a un perfil de Instagram que muestra nombre y apellidos. Otro usuario le solicitó que elaborara una declaración de antecedentes penales ante un tribunal que también proporcionara una gran cantidad de información personal identificable tanto del presunto delincuente como del propio usuario.

También hay muchos casos de preguntas médicas, incluyendo personas que revelan sus problemas para defecar, piden ayuda con la urticaria y preguntan por un sarpullido en la cara interna de los muslos. Un usuario le contó a Meta AI sobre su cirugía de cuello e incluyó su edad y ocupación en la solicitud. Muchas cuentas, aunque no todas, parecen estar vinculadas a un perfil público de Instagram de la persona.

El portavoz de Meta, Daniel Roberts, escribió en un comunicado enviado por correo electrónico a WIRED que los chats de los usuarios con Meta AI son privados a menos que estos completen un proceso de varios pasos para compartirlos en el feed de Discover. La compañía no respondió a preguntas sobre las medidas de mitigación implementadas para compartir información personal identificable en la plataforma Meta AI.

En una publicación del blog de la empresa que anunció la aplicación, Meta afirmó que «no se comparte nada en tu feed a menos que decidas publicarlo». También menciona que los usuarios pueden pedirle a su IA que «recuerde ciertos datos sobre ti» y que «ofrece respuestas más relevantes a tus preguntas basándose en la información que ya has compartido en los productos de Meta, como tu perfil y el contenido que te gusta o con el que interactúas».

“La gente realmente no entiende que nada de lo que se introduce en una IA es confidencial”, dice Schroeder. “Ninguno de nosotros sabe realmente cómo se utiliza toda esta información. Lo único que sabemos con certeza es que no se queda entre tú y la aplicación. Va a otras personas, al menos a Meta”.

Tras el lanzamiento inicial de la aplicación de IA de Meta, los críticos se apresuraron a señalar posibles problemas de privacidad, y un titular la calificó de " un desastre de privacidad a punto de ocurrir". A pesar de esas preocupaciones, el ritmo de desarrollo e implementación de dicha IA no muestra signos de desaceleración, especialmente en Meta: el director ejecutivo Mark Zuckerberg anunció recientemente que el asistente de IA de Meta tiene mil millones de usuarios en las plataformas de la empresa, y se ha informado de que Meta está creando un nuevo laboratorio de IA dirigido por el cofundador de Scale AI, Alexandr Wang, dedicado a construir superinteligencia.

"¿Es Meta consciente de cuánta información confidencial sus usuarios publican por error?", preguntó un usuario a Meta AI el jueves, en una consulta que apareció en el feed público.

“Algunos usuarios podrían compartir información confidencial sin querer debido a malentendidos sobre las opciones predeterminadas de la plataforma o cambios en la configuración con el tiempo”, respondió el chatbot. “Meta proporciona herramientas y recursos para ayudar a los usuarios a gestionar su privacidad, pero es un desafío constante”.