No verão passado, minha esposa e eu vencemos as probabilidades da meia-idade e tivemos uma linda menina. Milhares de pessoas que me seguem no Instagram e em outros aplicativos ainda não perceberam. Não é porque eu tenha ignorado todo mundo. Simplesmente optei por não postar fotos da minha filha nas redes sociais, uma decisão parental que está se tornando cada vez mais popular devido à inteligência artificial.
Os pais debatem os riscos e benefícios de publicar fotos de seus filhos online há décadas — praticamente desde que os sites de compartilhamento de fotos surgiram. Mas quando as redes sociais se tornaram parte integrante da sociedade, o “sharenting” (expressão que une “share” e “parenting” para se referir ao compartilhamento de fotos dos filhos) se tornou a norma.
Apenas um quarto dos pais não compartilha fotos de seus filhos online por causa da preocupação de que predadores e empresas online possam coletar seus dados pessoais, de acordo com estudos.
Mas pais como eu aderiram ao grupo dos que “nunca postam os filhos” devido a uma ameaça mais recente: aplicativos que podem gerar automaticamente deepfake de nudes com o rosto de qualquer pessoa usando inteligência artificial generativa, a tecnologia que alimenta os populares chatbots.
Os chamados aplicativos “nudificadores” são simples e baratos para qualquer pessoa usar, com alguns até oferecendo testes gratuitos. Eu dei uma olhada em alguns deles. Esses aplicativos estão sendo amplamente usados por estudantes nas escolas e, para as vítimas, ter nudes gerados artificialmente divulgados publicamente tem sido tão traumático quanto se as fotos fossem reais.
Embora uma nova lei federal nos Estados Unidos torne crime postar nudes falsos não consensuais online, não há nada que impeça as pessoas de usar esses aplicativos que geram nudes, que se proliferaram na web. Dezenas desses sites estão faturando milhões de dólares por ano.
“Está em toda parte”, disse Alexios Mantzarlis, fundador da publicação de tecnologia Indicator, que investigou 85 sites de criação de nudes com IA. “Qualquer criança com acesso à internet pode ser vítima ou agressora.”
Além dos deepfakes de IA, há mais riscos na publicação de fotos que podem desencorajar os pais, como a exposição potencial de informações pessoais confidenciais de jovens a pessoas mal-intencionadas.
Para ser claro, publicar ou não fotos de família é uma escolha pessoal, portanto, esta coluna não é uma condenação aos pais que publicam. Até porque eu gosto de ver fotos dos filhos de outras pessoas nas redes sociais! Em vez disso, esta é uma explicação sobre o que considerar ao publicar fotos de crianças online.
Aqui está o que você precisa saber:
A ascensão dos deepfakes
Nudes falsos de pessoas reais não são novidade. Por muitos anos, aplicativos de edição de fotos como o Adobe Photoshop podiam manipular fotos para criar imagens realistas. No entanto, devido ao tempo e à habilidade necessários para criar falsificações convincentes, as vítimas tendiam a ser celebridades.
Os aplicativos de nudez com IA mudaram o jogo. Os abusadores precisam apenas visitar um dos sites e enviar uma imagem de sua vítima. Os nudificadores geralmente aceitam pagamentos com cartão de crédito ou criptomoedas em troca de tokens virtuais para produzir nudes falsos.
A publicação de deepfakes foi recentemente considerada um crime federal nos EUA quando o presidente Donald Trump assinou o Take It Down Act, um projeto de lei bipartidário que combate revenge porn (pornografia de vingança), incluindo imagens de nudez não consensuais e falsificações geradas por IA. Embora a legislação exija que os sites de mídia social removam as imagens ofensivas, ela não proíbe as empresas de oferecer os próprios aplicativos de geração de imagens.
Empresas de redes sociais como Snap, TikTok e Meta proíbem a publicidade de nudificadores em seus aplicativos, e alguns estados estão começando a discutir uma legislação que proibiria as empresas de oferecer aplicativos nudificadores. Mas, se isso acontecer, a aplicação da lei seria difícil, pois muitos dos criadores de aplicativos estão no exterior.
Em outras palavras, qualquer pessoa ainda pode usar facilmente um aplicativo de criação de nudes por IA com imagens de crianças e guardar as fotos, e ninguém saberia.
Um site que examinei oferecia uma versão de avaliação gratuita para digitalmente “tirar a roupa de alguém” em uma foto. A partir daí, os usuários podiam pagar uma assinatura de US$ 49 por mês por 600 créditos, ou 8 centavos por nudez falsa. O aplicativo também permitia que os usuários criassem animações pornográficas.
Muitas pessoas estão enviando fotos para esses aplicativos nudificadores, que geram cerca de US$ 36 milhões por ano em receita para as empresas que oferecem o software, disse Mantzarlis, que baseou a estimativa nos dados de tráfego de um conjunto de sites.
Os aplicativos de pornografia com IA têm sido um incômodo tão grande que a Meta decidiu agir. Em junho, a empresa entrou com uma ação judicial em Hong Kong contra um desenvolvedor local de vários aplicativos de nudez com IA que conseguiu contornar as tecnologias de detecção de anúncios da Meta para promover seu software no Instagram e no Facebook.
Um porta-voz da Meta disse que a empresa também compartilhou informações sobre aplicativos e sites ofensivos com o Lantern Program da Tech Coalition, um grupo de empresas, incluindo Google e Microsoft, que trabalha para proteger crianças do abuso sexual online.
No entanto, os autores precisam apenas saber o nome de um site de criação de nudes para acessá-lo através de um navegador da web, e nas escolas, os alunos conhecem os sites mais populares, disse Josh Golin, diretor executivo da Fairplay for Kids, uma organização sem fins lucrativos que se concentra em proteger as crianças de mídias prejudiciais.
“Os professores e administradores escolares com quem converso dizem que isso acontece o tempo todo em nossas escolas, onde as crianças criam nudes falsos”, disse ele.
Embora novas leis possam tornar mais difícil para os abusadores compartilharem deepfakes com outras pessoas, para muitas vítimas, o dano já está feito.
Na primavera, alunos de uma escola secundária no nordeste de Iowa relataram às autoridades escolares que outros alunos haviam usado nudificadores para fabricar digitalmente imagens nuas deles. Na mesma época, legisladores em Minnesota, em meio a incidentes semelhantes lá, apresentaram uma legislação visando empresas que oferecem aplicativos ou sites nudificadores.
O que tudo isso significa para os pais é: os abusadores podem copiar uma foto de uma criança postada em seu perfil na rede social e enviá-la para um aplicativo de criação de nudes. Ou, se estiverem fisicamente próximos, podem usar uma câmera para tirar uma foto da criança e enviá-la para a ferramenta.
Não há como impedir alguém de fazer o último, mas a primeira situação pode ser evitada optando por não publicar fotos de seus filhos online.
Contas privadas nas redes sociais são uma solução imperfeita
Os pais que desejam compartilhar fotos de seus filhos nas redes sociais podem reduzir significativamente o risco postando as fotos apenas em uma conta privada, que apenas amigos próximos e familiares têm permissão para ver. Mas isso ainda tem limitações.
Os autores de abuso sexual infantil geralmente conhecem a vítima, então um seguidor do Instagram com acesso ao seu perfil pode ser um criminoso, afirma Sarah Gardner, fundadora da Heat Initiative, um grupo de defesa da segurança infantil.
“Só porque você tem uma conta privada não significa que alguém que você conhece não vai pegar suas fotos e fazer algo malicioso com elas”, explica.
Em um incidente desse tipo há cerca de uma década — muito antes do surgimento dos deepfakes gerados por IA —, uma mãe em Riverton, Utah, descobriu que fotos de seus filhos, que ela havia compartilhado apenas com amigos e familiares no Facebook, acabaram em sites de pornografia.
Até mesmo uma festa de aniversário pode expor as crianças
Além dos deepfakes de IA, ainda há ameaças tradicionais a serem consideradas, como roubo de identidade.
A festa de aniversário de uma criança pode parecer um marco que vale a pena divulgar nas redes sociais, mas mesmo esse tipo de compartilhamento aparentemente inofensivo pode expor as crianças a danos futuros.
As fotos da festa de aniversário podem revelar o dia e o ano exatos em que a criança nasceu, informações que podem ser combinadas com outros dados que os hackers coletaram por meio de violações de segurança cibernética para cometer roubo de identidade, disse Leah Plunkett, autora de “Sharenthood”, um livro sobre o compartilhamento de informações sobre crianças online.
Por mais improvável que pareça, o roubo de identidade envolvendo menores aumentou 40% entre 2021 e 2024 nos EUA, com cerca de 1,1 milhão de crianças tendo suas identidades roubadas a cada ano, de acordo com a Comissão Federal de Comércio, uma agência independente do governo americano. Este é um bom lembrete para todos os pais congelarem o crédito de seus filhos.
Por que compartilhamos nossa vida nas redes?
Compartilhar alguns dados faz parte do contrato social da era digital. Compartilhamos nossa localização, por exemplo, para obter orientações úteis de aplicativos de mapas. Para qualquer pai que esteja pensando em postar fotos de seus filhos, é útil perguntar: quais são os benefícios?
Aplicativos de mídia social como Instagram, Snapchat e TikTok são ferramentas convenientes para compartilhar fotos e vídeos legais de forma eficiente com um grande número de pessoas de quem gostamos. Mas os verdadeiros beneficiários são as próprias empresas de mídia social, que coletam dados para melhorar seus produtos e fazer com que as pessoas, incluindo nossos filhos, continuem usando seus produtos.
Entre os jovens, o uso frequente das mídias sociais tem sido associado a problemas de saúde mental, incluindo ansiedade, depressão e sentimentos de solidão, de acordo com dezenas de estudos.
“O objetivo delas não é ajudar a desenvolver uma criança equilibrada e saudável, mas sim ganhar dinheiro mantendo seus filhos conectados o máximo possível”, disse Nicki Reisberg, ex-profissional de marketing que apresenta um podcast sobre paternidade na era digital. “Se elas tiverem dezenas de milhares de dados antes de seu filho entrar na internet, poderão fazer isso de forma mais eficaz.”
Existem maneiras menos arriscadas de compartilhar fotos de nossos filhos. Meu método preferido é enviar fotos da minha filha para alguns amigos e parentes por meio de mensagens de texto, que são criptografadas. Alguns pais compartilham álbuns de fotos da família com um pequeno grupo de pessoas usando serviços online como o iCloud da Apple e o Google Fotos.
No final das contas, estou ciente de que tudo isso pode ser uma batalha perdida. Muitas escolas publicam fotos das crianças nas redes sociais para mostrar que seus alunos estão se divertindo – provavelmente serei o pai desagradável exigindo que as fotos da minha filha sejam removidas e, eventualmente, quando minha filha crescer, ela terá seu próprio celular e decidirá se quer publicar suas fotos.
Mas até esse dia chegar, farei o que puder para manter as fotos dela fora da internet.
Este artigo foi publicado originalmente no The New York Times.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
