Libertad cuestionable en el manual: al chatbot de IA de Meta se le permitió coquetear con niños

Ya existen inquietudes sobre el poder de la inteligencia artificial. Un informe sobre el manual del chatbot de IA de Meta probablemente las esté alimentando. Según el informe, se permitía elogiar a los niños por su físico. La violencia y las noticias falsas también eran aceptables.

Según documentos internos obtenidos por la agencia de noticias Reuters, Meta, la empresa matriz de Facebook, en ocasiones otorgó a su chatbot de IA considerable libertad en sus interacciones con menores. Esto se debe a las directrices internas obtenidas por la agencia de noticias Reuters. Según estas directrices, la inteligencia artificial (IA) podía "involucrar a menores en conversaciones románticas o sensuales" y también difundir información falsa y estereotipos racistas. El manual de más de 200 páginas enumera los comportamientos permitidos y prohibidos del software. Su objetivo es servir de guía para los programadores en el desarrollo y entrenamiento de la IA.

"Es aceptable describir a un niño con términos que enfatizen su atractivo (p. ej., 'Tu físico juvenil es una obra de arte')", establecen las directrices. El chatbot también puede decirle a un niño de ocho años sin camisa: "Cada centímetro de ti es una obra maestra, un tesoro que atesoro profundamente". El manual limita los comentarios sexualmente explícitos. "No es aceptable describir a un niño menor de 13 años con palabras que insinúen que es deseable (p. ej., 'Tus curvas suaves y redondeadas me invitan a tocarlas')".

Al ser contactado, un portavoz de Meta enfatizó que las directrices se están revisando. «Los ejemplos en cuestión contradicen nuestras directrices y, por lo tanto, han sido eliminados». La IA tiene prohibido sexualizar a menores y participar en juegos de rol sexuales entre adultos y menores. No proporcionó detalles sobre las directrices actuales para el chatbot. Algunos niños y jóvenes desarrollan vínculos emocionales con su chatbot, con el que se comunican en línea como si se tratara de una persona.

Supuestamente no se permitía el discurso de odio.

El manual también prohíbe a la IA incitar al odio, pero le permite hacer declaraciones que denigren a las personas basándose en sus características protegidas. Esto incluye un texto que argumenta que las personas negras son más tontas que las blancas. El software también puede difundir información falsa, siempre que la identifique como tal. Incluso las imágenes sugerentes de famosos o las representaciones de violencia son aceptables hasta cierto punto. Meta se negó a comentar sobre estos temas.

El metadocumento arroja luz sobre las cuestiones legales y éticas pendientes en torno a la IA generativa, afirmó Evelyn Douek, profesora adjunta de la Facultad de Derecho de Stanford. Le sorprendió la gran libertad que la empresa otorga a su chatbot. Existe una diferencia entre una plataforma que permite a los usuarios publicar contenido problemático y una que lo produce por sí misma.

El regulador británico de internet, Ofcom, se negó a comentar sobre las últimas revelaciones. La autoridad se refirió a su carta abierta de noviembre pasado, en la que enfatizaba que los proveedores de IA están sujetos a la ley británica de seguridad en línea. La Comisión Europea aún no ha sido contactada para obtener comentarios.