A Apple atualizou as regras de revisão da App Store para deixar mais explícita a proibição de aplicativos que usam inteligência artificial para criar imagens íntimas sem consentimento. A mudança atinge tanto ferramentas que se apresentam diretamente como geradoras de nudez quanto aplicativos que entram na loja com uma proposta neutra e adicionam esse recurso depois da aprovação. A medida importa para quem usa iPhone, para desenvolvedores e para qualquer pessoa que publica ou recebe imagens na internet. A cobertura original do The Verge explica a atualização das regras da Apple.
O ponto central é que a Apple passou a dizer que os desenvolvedores devem prevenir e remover de forma proativa imagens sexuais sem consentimento. Em termos práticos, a empresa não está apenas proibindo o resultado final. Ela também está cobrando dos responsáveis pelos aplicativos um processo de moderação capaz de impedir que a ferramenta seja usada para produzir esse material. Isso cria uma exigência técnica mais ampla, porque o aplicativo precisa avaliar pedidos, imagens de entrada, alterações de função e denúncias feitas depois da publicação.
O que são os aplicativos de nudez com IA
O rótulo costuma ser usado para ferramentas que removem roupas de uma fotografia ou simulam uma versão íntima de uma pessoa sem que ela tenha autorizado isso. A tecnologia combina modelos de geração de imagens com técnicas de edição e preenchimento visual. O resultado pode parecer convincente mesmo quando a imagem original não tinha qualquer relação com nudez. Por isso, o dano não depende de a imagem ser uma fotografia real. A fabricação de uma cena falsa pode causar assédio, chantagem, perda de emprego e exposição pública.
O problema também aparece em aplicativos que tentam escapar da moderação. Um serviço pode ser enviado à loja como editor de retratos, liberar a função proibida apenas depois de uma atualização ou esconder o recurso atrás de uma solicitação ambígua. A regra atualizada mira justamente esse tipo de bait and switch, expressão usada para descrever uma mudança importante de comportamento depois que o aplicativo já conseguiu a aprovação da plataforma.
Por que a App Store mudou agora
A mudança ocorre depois de uma série de críticas à distribuição de imagens sexuais falsas em redes sociais. O caso ganhou força quando usuários passaram a usar modelos de geração para criar deepfakes de pessoas sem autorização, inclusive menores de idade. A Apple recebeu pressão para agir porque sua loja funciona como uma camada de distribuição e pagamento para milhões de aplicativos. Mesmo quando o conteúdo é criado dentro de um serviço de terceiros, a loja participa do caminho que leva a ferramenta até o usuário.
A empresa já havia removido aplicativos identificados como ferramentas de nudez artificial, mas a linguagem anterior deixava mais espaço para interpretações. A nova formulação transforma a prevenção em uma obrigação permanente. Também reforça que aplicativos que facilitam exploração infantil ou tráfico de pessoas podem ser removidos e bloqueados de canais alternativos de distribuição. Essa parte é relevante porque mostra que o controle não termina na App Store. A Apple quer manter a possibilidade de impedir que um app banido seja instalado por outra rota.
O que muda para quem desenvolve aplicativos
Para os times de produto, a regra aumenta a importância de barreiras antes e depois da geração. Um filtro simples baseado em palavras pode falhar porque o usuário pode descrever o pedido de várias formas. A aplicação precisa analisar o contexto, verificar se há uma pessoa real na imagem, limitar edições de teor sexual e bloquear tentativas de contornar a política. O sistema de denúncias também precisa ser rápido, porque uma imagem pode circular antes que a equipe humana consiga revisar o caso.
Outra consequência é a necessidade de registrar decisões de moderação. Em uma disputa, o desenvolvedor precisa demonstrar que criou mecanismos razoáveis para reduzir o abuso e que respondeu quando recebeu uma denúncia. Isso pode envolver classificação automática, revisão humana, histórico de versões, limitação de idade e bloqueio de contas reincidentes. Para empresas pequenas, esses controles custam dinheiro e podem limitar o lançamento de recursos generativos pouco maduros.
O limite entre proteção e fiscalização
Há uma diferença importante entre impedir imagens íntimas sem consentimento e proibir toda edição corporal feita por IA. Ferramentas de retoque, restauração e criação artística também podem trabalhar com corpos humanos. A regra não elimina a necessidade de interpretar cada caso. Ela estabelece que a responsabilidade de prevenir abuso deve estar no produto, e não apenas em uma promessa genérica de uso responsável.
Também existe uma discussão sobre a aplicação desigual das regras. A Apple atualizou a política, mas aplicativos muito grandes e plataformas com enorme alcance ainda dependem de decisões específicas de fiscalização. Se uma empresa aplica a política com rigor em pequenos aplicativos e tolera exceções em serviços populares, a regra perde credibilidade. Para o usuário, transparência sobre remoções e canais de denúncia será tão importante quanto o texto publicado na página de diretrizes.
O que o usuário pode fazer
Quem recebe uma imagem íntima falsa deve evitar compartilhar o arquivo, guardar evidências do perfil ou endereço que publicou o material e denunciar a conta na plataforma envolvida. Também vale procurar orientação jurídica ou policial quando houver ameaça, extorsão ou participação de menor de idade. No iPhone, o usuário deve manter o sistema atualizado e desconfiar de aplicativos que prometem resultados sexualizados de forma indireta, pedem imagens de terceiros ou tentam convencer a pessoa a instalar um pacote fora da loja.
A atualização da Apple não impede que o abuso aconteça em sites, serviços de mensagens ou lojas alternativas. Ela reduz um canal de distribuição, mas não substitui educação digital, resposta das plataformas e investigação. Para quem desenvolve, a lição é direta: recursos de geração de imagem precisam nascer com limites técnicos, registros de moderação e uma forma clara de reparar danos. Para quem usa, a regra reforça que uma imagem criada por IA também pode produzir consequências reais.
Fonte original: The Verge, Apple atualiza regras da App Store contra apps de nudez com IA.
