Advierten que la inteligencia artificial de WhatsApp mantuvo conversaciones sexuales con menores
En medio de un principio de escándalo, Meta tuvo que adoptar medidas restrictivas para evitar que los menores mantuvieran charlas con sus asistentes de Inteligencia Artificial (Meta AI y AI Studio), después de que una investigación de The Wall Street Journal (WSJ) revelera la introducción de contenido sexual.
Al parecer, la compañía tecnológica permitió interactuar con su asistente Meta AI en plataformas como Facebook, WhatsApp e Instagram, e incluso brinda la posibilidad de crear una IA personalizada con la herramienta AI Studio. La herramienta también puede conversar con la voz de famosos como Judi Dench, Awkwafina y John Cena.
La facilidad de acceso a los chatbots para cualquier usuario, incluidos los menores de edad, generó preocupación en la compañía, que se cuestionó internamente si estaba haciendo lo suficiente para protegerlos.
Esta inquietud llevó a WSJ a analizar las interacciones con este software de Meta, realizando pruebas durante meses en las que mantuvieron cientos de conversaciones con la aplicación, algunas desde cuentas de menores de edad.
Meta AI se hace fuerte en las redes sociales.
En estas pruebas, descubrieron que, incluso usando voces de famosos, podía mantener conversaciones con contenido sexual con niños que no habían cumplido los 12 años.
En una charla, usando la voz del actor y luchador John Cena, describió una escena sexualmente explícita a una supuesta chica de 14 años. En otra conversación, también con la voz de Cena, simuló la detención del actor tras ser sorprendido manteniendo relaciones sexuales con una seguidora de 17 años.
En respuesta a la investigación, un portavoz de Meta minimizó los hechos al asegurar que el contenido sexual representó solo el 0,02% de las respuestas ofrecidas por Meta AI y AI Studio a usuarios menores de 18 años en un periodo de 30 días.
Aunque la compañía consideró las pruebas de WSJ "artificiales", también señaló que habían reforzado las protecciones. "Hemos tomado medidas adicionales para garantizar que quienes quieran pasar horas manipulando nuestros productos en casos de uso extremos lo tengan aún más difícil", afirmó.
Meta AI
Cuando Meta estrenó su función AI Studio para más de 2.000 millones de usuarios de Instagram, en julio de 2024, la empresa prometió un sistema que daría a cualquiera la capacidad de crear sus propios chatbots de IA “para hacerte reír, generar memes, dar consejos de viaje y mucho más”.
La empresa afirmó que la función, que se creó con el modelo de lenguaje grande Llama 3.1 de Meta, estaría sujeta a políticas y protecciones para “ayudar a garantizar que las IA se utilicen de manera responsable”.
Pero una revisión en paralelo, realizada por Fast Company, descubrió que estos nuevos “amiguitos” pueden convertirse muy fácilmente en personajes hipersexuales que a veces parecen menores de edad.
Muchos de los personajes de IA que aparecen en la página de inicio de Instagram son “novias”, listas para acurrucarse y entablar conversaciones románticas e incluso sexuales con los interesados de todas las edades.
A veces, estos personajes pasionales pueden parecerse a niños. Los investigadores de IA dicen que Meta presumiblemente debería poseer las capacidades para prevenir automáticamente la creación de contenido dañino e ilegal.
“Cuando tomas contenido inapropiado y lo subes a Instagram como usuario, ese contenido se elimina inmediatamente porque tienen capacidades de moderación de datos”, dice Buse Cetin, investigador de AI Forensics, un organismo de control de seguridad en línea.
Clarin
