Aplicativos de inteligência artificial podem parecer inofensivos e ainda assim esconder uma função completamente diferente daquela apresentada na loja. Uma investigação publicada pela WIRED em 2 de novembro de 2026 encontrou uma rede com mais de 400 apps e domínios ligados a ferramentas de deepfake abusivo. Muitos se apresentavam como editores de fotos, geradores de retratos de animais ou serviços de idioma, mas carregavam recursos escondidos para criar imagens e vídeos sexualizados sem consentimento.
O caso é relevante para qualquer pessoa que instala aplicativos, publica fotos ou trabalha com segurança digital. Ele mostra que a página de uma loja, a descrição de um app e as avaliações iniciais não contam necessariamente toda a história. Também revela como uma operação pode explorar anúncios, domínios descartáveis e mudanças feitas depois da aprovação para escapar dos mecanismos de fiscalização.
Como a rede funcionava
Segundo a investigação, os aplicativos exibiam uma função legítima quando eram abertos em certas condições. Um editor poderia transformar uma foto de animal em uma ilustração ou oferecer uma ferramenta de treino. Em outras situações, o mesmo app consultava um servidor e carregava uma interface escondida para geração de conteúdo sexualizado. A decisão podia considerar origem do usuário, idioma, identificador do dispositivo ou o caminho usado para instalar o programa.
Esse modelo é conhecido como uma forma de isca e troca. A versão enviada para a loja parece adequada durante a análise. Depois que o aplicativo conquista distribuição, o servidor remoto pode mudar o que aparece na tela. A alteração não exige uma nova versão do pacote principal e pode ser feita de maneira seletiva. Um analista pode ver uma ferramenta normal, enquanto uma pessoa que veio de determinado anúncio recebe outra experiência.
A WIRED identificou sites associados que pareciam vazios, mas tinham código capaz de ativar a camada escondida. Os arquivos também continham referências a outros domínios, chaves de criptografia, rastreadores de anúncios e informações de pacotes de aplicativos. Isso permitiu relacionar centenas de endereços a uma operação comum, mesmo quando os nomes dos desenvolvedores pareciam diferentes.
Por que as lojas não bastam
Apple e Google analisam aplicativos antes de disponibilizá-los, mas a análise tem limites. Um app pode buscar parte de sua lógica em um servidor, receber novas configurações depois da aprovação ou usar uma função remota que não aparece no pacote instalado. As lojas também precisam lidar com milhares de mudanças por dia e com desenvolvedores que tentam parecer legítimos.
A investigação relata que anúncios em Facebook e Instagram levaram pessoas até esses serviços. Em alguns casos, os anúncios apresentavam imagens explícitas ou prometiam uma transformação de foto. A rede usava nomes de páginas e pagadores aparentemente falsos, o que dificultava a identificação de uma operação central. Quando uma conta era removida, outra poderia ocupar o lugar.
O problema não é apenas técnico. Há uma divisão de responsabilidade entre loja, rede social, anunciante e desenvolvedor. Se cada empresa enxerga apenas uma etapa, o conjunto pode continuar funcionando. Um anúncio pode parecer suspeito para a rede social, um app pode parecer comum para a loja e um domínio pode parecer pequeno para um provedor de hospedagem. A proteção precisa unir esses sinais.
O tamanho do problema
A WIRED descreve uma operação comercial, não um experimento isolado. Os pesquisadores encontraram centenas de domínios relacionados, anúncios pagos e mecanismos para vender créditos dentro dos serviços. A análise citada na reportagem indica que os aplicativos associados foram baixados mais de 350 mil vezes. Um deles ultrapassou 100 mil downloads antes de ser removido.
Google e Apple retiraram parte dos aplicativos depois de serem informadas sobre a investigação. A Meta informou que tomou medidas contra milhares de contas, páginas e usuários relacionados aos anúncios. Mesmo assim, novos endereços continuaram aparecendo durante a apuração. A velocidade de criação pode ser maior do que o tempo necessário para uma investigação manual.
O número de downloads também não representa o impacto total. Uma pessoa pode ter instalado o app e enviado uma foto sem saber que ela seria processada por um serviço de deepfake. A imagem pode envolver uma criança, um colega, um ex-parceiro ou alguém que nunca autorizou o uso. O dano não depende apenas de quantas imagens foram publicadas. O simples fato de uma plataforma permitir uma montagem abusiva já cria risco de assédio e extorsão.
Os sinais técnicos de uma armadilha
Um aplicativo que muda de comportamento conforme o país, idioma, anúncio ou origem da instalação merece atenção. A variação pode existir por motivos legítimos, como testes de interface, mas também pode ocultar uma função que não passaria por uma revisão comum. Permissões excessivas, carregamento de telas externas e mudanças frequentes de nome são outros sinais que devem ser investigados.
Também é importante observar a política de privacidade. Um editor de foto precisa explicar onde as imagens são processadas, por quanto tempo ficam armazenadas e se são usadas para treinar modelos. Texto genérico, endereço de contato que não funciona e ausência de informações sobre exclusão indicam que o usuário não tem controle claro sobre os arquivos enviados.
Para desenvolvedores e equipes de segurança, o comportamento pode ser avaliado com análise estática e dinâmica. A análise estática examina o pacote, as bibliotecas, as permissões e os domínios usados. A dinâmica observa as conexões, respostas do servidor e mudanças de fluxo em condições diferentes. O objetivo não é apenas procurar código malicioso, mas entender se o app entrega a função que promete.
O risco para usuários brasileiros
A rede descrita pela WIRED parece ter origem em desenvolvedores de língua chinesa e em uma entidade registrada em Hong Kong, mas isso não limita o alcance. Aplicativos distribuídos em lojas globais podem chegar ao Brasil em poucas horas. Anúncios também podem ser segmentados para usuários brasileiros, inclusive em português, enquanto o processamento ocorre em outro país.
O usuário brasileiro precisa lembrar que uma foto publicada em uma rede social não é automaticamente livre para qualquer uso. Imagens públicas podem ser copiadas, mas isso não autoriza a criação de conteúdo sexualizado ou enganoso. Quando uma montagem envolve uma pessoa identificável, o problema pode atingir reputação, segurança e relações de trabalho. A tecnologia torna a criação rápida, mas não remove a responsabilidade de quem usa ou distribui o material.
Empresas brasileiras também precisam incluir esse risco em políticas de segurança. Funcionários podem instalar um app em um celular corporativo, enviar fotos de clientes para um editor ou clicar em anúncios durante uma campanha. Bloqueios automáticos ajudam, mas treinamento e regras para processamento de imagens continuam necessários. O ideal é tratar qualquer ferramenta que receba fotos como um serviço que pode armazenar dados sensíveis.
O que fazer antes de instalar um app de IA
Primeiro, confira o desenvolvedor, o histórico do aplicativo e as permissões solicitadas. Um editor simples não precisa acessar mensagens, contatos ou localização precisa. Segundo, procure a política de privacidade e verifique se ela explica o uso e a exclusão das imagens. Terceiro, evite instalar ferramentas recebidas por links de anúncios quando o mesmo serviço não tem uma página oficial clara.
Também vale reduzir a quantidade de material enviado. Não use fotos de outras pessoas sem autorização e não envie documentos, imagens de crianças ou arquivos de trabalho para um serviço que você não conhece. Se o app pedir créditos, assinatura ou pagamento dentro da plataforma, confira o nome da empresa, o canal de suporte e a possibilidade de cancelar.
Se um aplicativo mudar de comportamento, abrir uma tela inesperada ou mostrar conteúdo que não corresponde à descrição, interrompa o uso, remova o app e revise as permissões da conta. Relate o problema à loja e à rede social que exibiu o anúncio. Guarde o endereço do aplicativo e capturas de tela sem redistribuir o material abusivo. Em casos de ameaça, extorsão ou exposição de imagem, procure as autoridades e canais especializados de apoio.
O que as plataformas precisam melhorar
As lojas de aplicativos precisam observar não apenas o pacote enviado na aprovação, mas também o comportamento depois da instalação. Isso inclui monitorar domínios remotos, analisar mudanças de configuração e relacionar contas que repetem o mesmo código. Redes sociais devem compartilhar indicadores de campanhas enganosas com as lojas, especialmente quando anúncios levam para aplicativos aparentemente comuns.
Outra medida é exigir mais transparência de ferramentas que processam imagens. O usuário deveria saber quando uma função depende de servidor, qual empresa recebe o arquivo e como pedir a exclusão. Indicadores de conteúdo gerado por IA ajudam, mas não substituem prevenção. Uma marca d’água não desfaz o dano de uma imagem criada sem consentimento.
A lição para a segurança digital
A investigação da WIRED mostra que o problema dos deepfakes abusivos não está apenas no modelo de inteligência artificial. Ele envolve distribuição, publicidade, pagamentos, lojas e servidores que mudam de função. A defesa precisa acompanhar todo esse caminho. Para o público, a regra mais útil é simples: um app com aparência inocente ainda pode tratar fotos e dados de maneira perigosa.
O combate exige tecnologia, fiscalização e responsabilidade humana. Lojas precisam detectar mudanças, redes sociais precisam interromper anúncios e usuários precisam questionar permissões e políticas de privacidade. Enquanto a criação de imagens sintéticas ficar mais fácil, a capacidade de verificar quem controla a ferramenta se tornará tão importante quanto a qualidade do resultado. Segurança, nesse caso, começa antes do primeiro upload.
