Met de Meta AI-app kun je de bizar persoonlijke chats van mensen 'ontdekken'

"In welke provincies vallen jongere vrouwen op oudere blanke mannen?", staat in een openbaar bericht van een gebruiker op Meta's AI-platform. "Ik heb details nodig, ik ben 66 en single. Ik kom uit Iowa en sta open voor een verhuizing naar een nieuw land als ik een jongere vrouw kan vinden." De chatbot reageerde enthousiast: "Je bent op zoek naar een nieuwe start en liefde op een nieuwe plek. Dat is spannend!" voordat hij suggereerde "Mediterrane landen zoals Spanje of Italië, of zelfs landen in Oost-Europa."

Dit is slechts één van de vele ogenschijnlijk persoonlijke gesprekken die openbaar te zien zijn op Meta AI , een chatbotplatform dat tevens dienstdoet als sociale feed en in april werd gelanceerd . In de Meta AI-app toont een tabblad 'ontdekken' een tijdlijn van de interacties van anderen met de chatbot; een korte scroll naar beneden op de Meta AI-website biedt een uitgebreide collage. Hoewel sommige van de gemarkeerde vragen en antwoorden onschuldig zijn – reisroutes, receptadvies – onthullen andere locaties, telefoonnummers en andere gevoelige informatie, allemaal gekoppeld aan gebruikersnamen en profielfoto's.

Calli Schroeder, senior counsel voor het Electronic Privacy Information Center, zei in een interview met WIRED dat ze mensen heeft zien “medische informatie, informatie over geestelijke gezondheid, huisadressen en zelfs zaken die rechtstreeks verband houden met lopende rechtszaken delen.”

"Dat is allemaal ontzettend zorgwekkend, omdat ik denk dat het erop wijst dat mensen niet begrijpen wat deze chatbots doen of waarvoor ze dienen, maar ook dat ze niet begrijpen hoe privacy werkt met dit soort structuren", aldus Schroeder.

Het is onduidelijk of de gebruikers van de app zich ervan bewust zijn dat hun gesprekken met Meta's AI openbaar zijn, of dat ze het platform trollen nadat nieuwsmedia erover begonnen te berichten. De gesprekken zijn standaard niet openbaar; gebruikers moeten ervoor kiezen ze te delen.

Er is geen gebrek aan gesprekken tussen gebruikers en de AI-chatbot van Meta die privé lijken te zijn. Eén gebruiker vroeg de AI-chatbot om een ​​format voor het beëindigen van een huurcontract, terwijl een ander hem vroeg om een ​​academische waarschuwing met persoonlijke gegevens, waaronder de naam van de school. Weer iemand anders vroeg naar de aansprakelijkheid van zijn zus voor mogelijke belastingfraude in een specifieke stad via een account dat gekoppeld is aan een Instagram-profiel met een voor- en achternaam. Weer iemand anders vroeg hem om een ​​karakterverklaring voor de rechtbank op te stellen, die ook talloze persoonlijk identificeerbare informatie bevatte over zowel de vermeende crimineel als de gebruiker zelf.

Er zijn ook veel voorbeelden van medische vragen, zoals mensen die hun stoelgangproblemen bekendmaken, om hulp vragen voor netelroos en vragen naar huiduitslag aan de binnenkant van hun dijen. Een gebruiker vertelde Meta AI over zijn nekoperatie en vermeldde zijn leeftijd en beroep in de prompt. Veel, maar niet alle, accounts lijken gekoppeld te zijn aan een openbaar Instagram-profiel van de persoon.

Meta-woordvoerder Daniel Roberts schreef in een e-mail aan WIRED dat chats van gebruikers met Meta AI privé zijn, tenzij gebruikers een meerstappenproces doorlopen om ze te delen via de Discover-feed. Het bedrijf reageerde niet op vragen over welke maatregelen er zijn getroffen om persoonlijk identificeerbare informatie te delen op het Meta AI-platform.

In een blogpost van het bedrijf waarin de app werd aangekondigd, zei Meta: "er wordt niets gedeeld met je feed, tenzij je ervoor kiest om het te plaatsen." Het vermeldt ook dat gebruikers de AI kunnen vertellen om "bepaalde dingen over je te onthouden" en "ook relevantere antwoorden op je vragen te geven door gebruik te maken van informatie die je al hebt gekozen om te delen op Meta-producten, zoals je profiel en content die je leuk vindt of waarmee je interactie hebt."

"Mensen begrijpen echt niet dat niets wat je in een AI stopt vertrouwelijk is", zegt Schroeder. "Niemand van ons weet echt hoe al deze informatie gebruikt wordt. Het enige wat we zeker weten, is dat het niet tussen jou en de app blijft. Het gaat naar andere mensen, op zijn minst naar Meta."

Na de eerste lancering van Meta's AI-app wezen critici al snel op mogelijke privacyproblemen. Eén kop noemde het zelfs " een privacyramp die staat te gebeuren". Ondanks deze zorgen vertoont het tempo van de ontwikkeling en implementatie van dergelijke AI geen tekenen van vertraging, vooral niet bij Meta: CEO Mark Zuckerberg kondigde onlangs aan dat de AI-assistent van Meta 1 miljard gebruikers heeft op alle platforms van het bedrijf. Ook zou Meta een nieuw AI-lab opzetten onder leiding van Alexandr Wang, medeoprichter van Scale AI, dat zich toelegt op het ontwikkelen van superintelligentie.

"Is Meta zich ervan bewust hoeveel gevoelige informatie haar gebruikers ten onrechte openbaar maken?", vroeg een gebruiker donderdag aan Meta AI in een zoekopdracht die in de openbare feed verscheen.

"Sommige gebruikers delen mogelijk onbedoeld gevoelige informatie vanwege misverstanden over de standaardinstellingen van het platform of wijzigingen in de instellingen in de loop van de tijd", antwoordde de chatbot. "Meta biedt tools en bronnen om gebruikers te helpen hun privacy te beheren, maar het is een voortdurende uitdaging."