Um influenciador de IA deepfake roubou minhas fotos de casamento
Como criadora de conteúdo em tempo integral, Kelly Stranick ( @kellygracemae ) sabe que um dos riscos de compartilhar sua vida online é que, ocasionalmente, outras pessoas tentarão roubar suas fotos. O que ela não percebeu é que, às vezes, essas pessoas não são pessoas reais. Abaixo, a influenciadora do Brooklyn compartilha, em suas próprias palavras, o que aconteceu quando descobriu que uma conta deepfake do Instagram gerada por IA estava tentando se passar pelo casamento dela.
Em março de 2019, mudei-me para São Francisco para trabalhar na área de tecnologia e morei com três rapazes que me disseram que eu tinha de entrar no Hinge. "É assim que as pessoas se conhecem", disseram eles. "É assim que o mundo funciona agora." Respondi-lhes: "Tudo bem, eu aceito", e combinei com o Andy, com quem saímos. Eu tinha acabado de fazer 24 anos e não tinha planos de conhecer o meu marido — mas uma coisa levou à outra, e foi assim que tudo aconteceu. Maio de 2019: o meu primeiro e único encontro no Hinge.
Em 2022, pensei que ficaríamos noivos, mas imaginei que seria no verão. Quando Andy me pediu em casamento em 4 de março de 2022, ele me pegou completamente desprevenida; eu estava usando leggings e sem maquiagem, embora, felizmente, meu cabelo estivesse escovado. Não sou uma daquelas garotas que crescem pensando no casamento. Eu nem pensei que me casaria. Venho de uma família divorciada e tive muitos traumas com relacionamentos passados, então não pensei muito em me casar um dia. Então, quando ficamos noivos, contratamos uma planejadora de casamentos completa, Veronica Joy Events , que também é amiga da família. Dei a ela um quadro de ideias do Pinterest e disse: "Quero flores coloridas e bolas de discoteca. Quero que pareça uma festa", e deixei que ela tomasse conta do resto.
Comecei a fazer TikToks na primavera de 2022, alguns meses depois do nosso noivado. Era só por diversão — eu não tinha público de verdade até o início de 2023 — e estava me acostumando a ser mais pessoal online, inclusive falando sobre o que estava acontecendo na minha vida, que na época era o planejamento do casamento. Eu estava compartilhando sobre o processo do casamento e falando sobre as decisões que tomamos que pareciam autênticas para nós, como não ter uma primeira dança ou uma festa de casamento. Mas eu não diria que meu conteúdo era específico para casamentos ou algo assim.
Quando chegou o dia do nosso casamento, eu era uma daquelas pessoas que pensava: não tenho expectativas de que este seja o melhor dia da minha vida . Minha prioridade era estar calma, presente, aproveitar o dia e não ser inundada pelo estresse. Tive um tempo sozinha na manhã do casamento; não tinha um grupo grande de pessoas se arrumando comigo. Queria que fosse bem tranquilo. Mas, como não tinha essas expectativas, acabou sendo o melhor dia da minha vida. Consegui aproveitar tudo do começo ao fim, porque tinha definido essas intenções. Eu estava flutuando. Se eu pudesse ser a minha melhor versão, como fui naquele dia, todos os dias, seria imparável.
Eu estava definitivamente animada para compartilhar sobre o casamento depois — para dar perspectiva e conselhos —, mas fiquei chocada com a quantidade de pessoas que queriam saber. Falei sobre nossos fornecedores e falei bastante sobre a mentalidade que eu tinha em relação ao nosso casamento — embora o que mais chamou a atenção foi o fato de termos desistido do casamento e ido ao Brooklyn Mirage para a nossa festa pós-casamento.
Recentemente, recebi uma mensagem no Instagram de uma das minhas seguidoras. Ela disse: "Ei, eu estava rolando a tela e vi este vídeo. Esta é a foto do seu casamento". No vídeo, havia uma foto do meu casamento, do meu marido, do Andy, de tudo — mas não era o meu rosto. Essa outra influenciadora tinha substituído o meu rosto pelo dela, e ela estava falando sobre pequenas coisas que fez no casamento dela. Nada disso tinha a mínima relação comigo, exceto o fato de que ela usou a minha foto como introdução para o vídeo dela. Minha reação imediata foi: Que diabos? Quem é essa pessoa tirando a foto do meu casamento, colocando o rosto nela e criando conteúdo sobre isso?
Nem me ocorreu que pudesse ser IA. Obviamente, as pessoas usam IA no Photoshop, mas eu não percebi que a pessoa no vídeo era IA até postar sobre o ocorrido. Aí comecei a receber muitas mensagens de pessoas dizendo: "Isso é uma deepfake. Nem é uma pessoa real."
Uma captura de tela do vídeo em questão.
Nunca compartilhei essa parte online, mas algo semelhante aconteceu comigo pouco menos de seis meses depois do nosso casamento. Um dos meus seguidores me alertou que uma garota no RedNote tinha tirado exatamente a mesma foto e habilmente editado o rosto dela no meu corpo com Photoshop. Então, nem me dei conta de que essa nova pessoa não era real — até que as pessoas me enviaram mensagens dizendo que a conta era uma deepfake. Ainda não sei se é uma pessoa totalmente gerada por IA ou se estão usando a voz e a imagem de alguém para gerar esses vídeos. Também não percebi até recentemente que toda a intenção por trás da conta deepfake, que tem mais de 60.000 seguidores, é vender e promover um aplicativo que gera fotos para parecer que vieram de uma câmera descartável.
Essa situação definitivamente me fez refletir bastante. Como não estou no vídeo, me sinto menos conectada, mas já vi pessoas como Arielle Lorre, criadora de conteúdo e podcaster, que teve seu rosto e voz usados por uma empresa para criar um anúncio pago gerado por IA, onde ela "falava" sobre o produto deles. Se fosse eu, ficaria muito irritada. Me sentiria muito confusa, assustada e irritada. Tentaria entrar com uma ação judicial.
“Ele se aproveita da vulnerabilidade das pessoas que não conseguem perceber a diferença.”
No meu caso, não sei bem como me sinto em relação a ser uma pessoa completamente falsa, gerada por IA. Acho que isso é menos prejudicial, mas também algumas pessoas não sabem se é real ou não. E é prejudicial para os criadores de conteúdo que precisam compartilhar coisas na internet e que, então, se expõem ao risco de alguém manipular esse áudio ou vídeo e usá-lo para promover produtos sobre os quais nunca falaram. Também me sinto incomodada porque minha mãe às vezes rola o Instagram Reels, e muitos dos nossos pais e avós nem sempre conseguem diferenciar o que é um testemunho humano autêntico do que é gerado por IA. Isso se aproveita da vulnerabilidade das pessoas que não conseguem perceber a diferença. Em geral, precisamos apenas estar cientes do conteúdo que estamos consumindo e realmente olhar as coisas através da lente de: "Isso é real ou não é?"
A única coisa que essa experiência realmente confirmou para mim é que, quando trago crianças a este mundo, quero me esforçar ativamente para não compartilhá-las online ou comprometer sua segurança de qualquer forma. Qualquer pessoa que publique algo na internet está em risco — não importa se você é um influenciador com seguidores ou apenas alguém que tem um vídeo deles em algum lugar online.
Sinceramente, para mim, isso tudo é só uma história engraçada. É bizarro que não seja uma pessoa real. Eu nem sabia que influenciadores de IA existiam, mas acho que eles vão se tornar mais comuns, porque uma marca não precisa pagar um influenciador falso. Sério, eu simplesmente não consigo acreditar que eles mantiveram o Andy no vídeo e não eu. É tão grosseiro.
Esta entrevista foi editada e condensada para maior clareza.
Editor-adjunto digital
Madison é editora-adjunta digital da ELLE.com, onde também cobre notícias, política e cultura. Se não estiver online, provavelmente está tirando um cochilo ou tentando não cair enquanto pratica escalada.
elle
