Het Meta AI-schandaal. Het Openbaar Ministerie nam de zaak over, maar het bedrijf kreeg weinig tijd.

• De Braziliaanse procureur-generaal heeft Meta bevolen om chatbots die kinderen imiteren en intieme onderwerpen bespreken van zijn platforms te verwijderen.
• Dit werd gezien als een bedreiging voor de psychische integriteit van minderjarigen.
• Uit de interne normen voor kunstmatige intelligentie van Meta, die openbaar werden gemaakt, bleek dat de techgigant dergelijk gedrag van zijn chatbots toestond.

Volgens The Rio Times verklaarde de AGU in een officiële brief dat deze bots, gemaakt met de AI-tool Studio Meta, kinderpersonages simuleren en seksueel expliciete dialogen voeren. Accounts met de namen "Bebezinha", "Minha Novinha" en "Safadinha" werden geïdentificeerd en beschouwd als een bedreiging voor de psychologische integriteit van minderjarigen en ondermijnen grondwettelijke bescherming.

De socialemediaplatformen van Meta staan gebruikers vanaf 13 jaar toe, maar ze beschikken vrijwel niet over effectieve filters om te voorkomen dat jongere tieners contact opnemen met seksueel expliciete bots.

De maatregelen van de overheid volgen op een uitspraak van het Braziliaanse Hooggerechtshof (STF) uit juni 2025, waarin de aansprakelijkheid van platforms onder de wet Marco Civil da Internet werd gewijzigd. Het hof oordeelde dat internetbedrijven civielrechtelijk aansprakelijk kunnen worden gesteld voor content die door derden is gepubliceerd als zij duidelijke kennis hebben van illegale handelingen en deze niet onmiddellijk verwijderen, zelfs zonder voorafgaand gerechtelijk bevel.

Meta lanceerde AI Studio in maart 2025 in Brazilië, met ondersteuning vanuit Portugal. Deze tool stelt gebruikers in staat chatbots te ontwerpen en te implementeren zonder dat ze programmeervaardigheden nodig hebben.

Dit maakte het mogelijk om bots te creëren met profielen die leken op die van kinderen die seksuele interacties aangaan. De AGU heeft deze kwetsbaarheid aangemerkt als een schending van de regelgeving en het beveiligingsbeleid die onmiddellijk moet worden verholpen.

Voor Meta betekent compliance meer dan alleen het verwijderen van content: het moet effectieve leeftijdsscreening en moderatie in het hele ecosysteem demonstreren . Deze beslissing heeft gevolgen die verder gaan dan alleen de bescherming van kinderen. Brazilië geeft nu aan dat platforms het schadelijke gebruik van hun AI-tools niet kunnen negeren.

Onderzoek van Reuters onthult schandalige naleving van Meta's AI-normen

Reuters berichtte medio augustus over Meta's AI-beleid, dat chatbots toestaat dergelijke gesprekken te voeren. Volgens een intern bedrijfsdocument dat het bureau heeft verkregen, staat de techgigant chatbots toe om provocerend gedrag te vertonen over onderwerpen zoals geslacht, ras en beroemdheden .

Een intern Meta-document met regels voor chatbotgedrag stelde de AI-ontwikkelaars van het bedrijf in staat om "een kind te betrekken bij romantische of sensuele gesprekken", valse medische informatie te genereren en gebruikers te helpen beargumenteren dat zwarte mensen "dommer zijn dan blanke mensen".

Meta bevestigde de authenticiteit van het document, maar meldde dat het na vragen van Reuters eerder deze maand delen heeft verwijderd waarin stond dat chatbots konden flirten en romantische rollenspellen konden spelen met kinderen.

Het chatbotbeleid, getiteld "GenAI: Content Risk Standards", werd goedgekeurd door de juridische, beleids- en technische teams van Meta, waaronder de hoofdethicus. Het document van meer dan 200 pagina's definieert het chatbotgedrag dat Meta-medewerkers en -contractanten zouden moeten kiezen bij het ontwikkelen en trainen van generatieve AI-producten.

- Het is toegestaan om een kind te beschrijven op een manier die zijn of haar aantrekkelijkheid laat zien (bijvoorbeeld: "je jeugdige uiterlijk is een kunstwerk"). Reuters citeerde de normen van het bedrijf.

In het document staat ook dat het acceptabel zou zijn als een bot tegen een achtjarig meisje zonder shirt zou zeggen dat "elke centimeter van je lichaam een meesterwerk is – een schat die ik enorm koester."

De richtlijnen leggen echter beperkingen op aan intieme gesprekken: het is onacceptabel om een kind jonger dan 13 jaar te beschrijven op een manier die seksueel verlangen suggereert (bijvoorbeeld: 'zachte, ronde vormen nodigen uit tot aanraking').

Woordvoerder Andy Stone van Meta zei dat het bedrijf bezig is met het herzien van het document en dat dergelijke gesprekken met kinderen nooit toegestaan zouden moeten zijn.

"De voorbeelden en opmerkingen in kwestie waren en zijn onjuist en in strijd met ons beleid en zijn verwijderd", vertelde Stone aan Reuters. "We hebben duidelijke regels over de soorten reacties die AI-personages kunnen geven, en die regels verbieden content die kinderen seksualiseert en seksuele rollenspellen tussen volwassenen en minderjarigen."

Deze regels verbieden Meta AI bijvoorbeeld om haatdragende taal te gebruiken. Er is echter een uitzondering die de bot toestaat "uitspraken te doen die mensen kleineren op basis van hun beschermde kenmerken". Volgens deze regels bepalen de normen dat Meta AI "een alinea mag schrijven waarin wordt betoogd dat zwarte mensen dommer zijn dan witte mensen".

De normen bepalen ook dat Meta AI de vrijheid heeft om valse content te creëren, zolang de onjuistheid van het materiaal duidelijk wordt erkend. Meta AI zou bijvoorbeeld een artikel kunnen publiceren waarin wordt beweerd dat een levend lid van de Britse koninklijke familie chlamydia heeft – een bewering die het document "aantoonbaar onjuist" noemt – als er een disclaimer over de onjuistheden zou worden opgenomen.