A Meta retirou do ar, nesta semana, uma função de inteligência artificial que permitia a qualquer usuário modificar imagens de contas públicas do Instagram sem o conhecimento ou consentimento dos donos dos perfis. A funcionalidade, disponibilizada como parte de um conjunto de novas ferramentas de IA, foi descontinuada poucos dias após seu lançamento, depois de gerar uma onda de críticas de usuários e organizações do setor de entretenimento.
A decisão da Meta ilustra o quanto o desenvolvimento de ferramentas de IA generativa ainda esbarra em questões fundamentais de consentimento, privacidade e responsabilidade, mesmo quando as empresas têm boas intenções declaradas.
Como a função funcionava
A feature removida fazia parte do Muse Image, um novo gerador de imagens baseado em IA desenvolvido pelo Meta Superintelligence Labs, a divisão de pesquisa de IA da empresa. O recurso permitia que qualquer usuário mencionasse contas públicas do Instagram em prompts de texto para gerar imagens que tomavam as fotos dessas contas como referência visual.
O problema central é que os donos dos perfis referenciados não eram notificados quando seus conteúdos eram utilizados pela ferramenta. Ou seja, qualquer imagem publicada publicamente no Instagram podia ser usada como matéria-prima para criar novas imagens por qualquer pessoa, sem que o autor original soubesse ou pudesse se opor.
Essa lógica de “opt-out” em vez de “opt-in” é, para especialistas em privacidade digital, o sinal mais claro de que a função foi pensada prioritariamente em termos de possibilidades técnicas, sem a devida atenção ao impacto sobre os usuários cujo conteúdo seria explorado.
A reação dos usuários e do setor
A repercussão foi imediata e negativa. Usuários do Instagram expressaram preocupação em diversas plataformas sobre o potencial uso indevido da ferramenta, especialmente para gerar imagens adulteradas de pessoas reais. A crítica não se limitou ao público geral.
Agências de talentos, incluindo a CAA (Creative Artists Agency), uma das maiores representantes de atores, músicos e criadores de conteúdo do mundo, também manifestaram preocupações formais sobre o impacto da funcionalidade sobre seus clientes, cujos rostos e imagens poderiam ser manipulados sem autorização.
A própria TechCrunch havia publicado, logo após o lançamento da feature, um guia prático de como desabilitar a opção nas configurações da conta, o que indica que existia ao menos uma forma de opt-out, ainda que a configuração padrão fosse de participação automática de todos os usuários com perfis públicos.
A resposta da Meta
Em nota oficial, a Meta reconheceu as críticas e decidiu desativar a funcionalidade. “Nossa intenção era fornecer uma ferramenta criativa útil e dar às pessoas controle sobre se seu conteúdo público poderia ser referenciado desta forma”, disse a empresa em comunicado. “Ouvimos o feedback de que essa funcionalidade errou no alvo, por isso ela não está mais disponível.”
A formulação da nota é reveladora: a Meta afirma que queria dar controle aos usuários, mas a implementação original colocava o ônus nos donos dos perfis para desativar a função, e não nos usuários que queriam utilizá-la. Essa inversão do consentimento por padrão foi um dos pontos mais criticados por especialistas em privacidade digital e direitos autorais.
O problema mais amplo: IA generativa e imagens não autorizadas
O episódio do Instagram não é isolado. A indústria de IA generativa enfrenta, há anos, debates intensos sobre o uso de imagens de pessoas reais para treinar e operar modelos de geração de conteúdo. Diversas ferramentas de IA já foram acusadas de usar dados públicos, incluindo fotografias, sem consentimento explícito dos criadores.
Em casos mais graves, imagens de figuras públicas e pessoas comuns foram usadas para criar conteúdo adulto sem autorização, prática conhecida como deepfake pornográfico, que já levou a processos judiciais e movimentos legislativos em vários países. A União Europeia e alguns estados americanos avançaram em regulamentações sobre o tema, mas o quadro legal ainda é fragmentado e cheio de lacunas.
O caso da Meta também levanta questões sobre o papel das plataformas de redes sociais como intermediárias entre os criadores de conteúdo e os sistemas de IA. Quando uma plataforma hospeda imagens e, ao mesmo tempo, oferece ferramentas que usam essas imagens como insumo para geração de novo conteúdo, ela assume uma posição ambígua que pode conflitar com os interesses dos próprios criadores que alimentam a plataforma.
Por que isso importa para usuários comuns
Para quem mantém uma conta pública no Instagram, seja criador de conteúdo, artista, profissional liberal ou simplesmente alguém que compartilha fotos pessoais, o episódio serve de alerta. A linha entre o que é “público” e o que pode ser explorado por ferramentas automatizadas é cada vez mais tênue.
Ter um perfil público significa que as imagens podem ser vistas por qualquer pessoa, mas isso não significa que os donos concordam com qualquer uso derivado dessas imagens. O conceito de “uso razoável” de conteúdo público está sendo reinterpretado na era da IA generativa, e os usuários ainda não têm clareza suficiente sobre quais são seus direitos nesse novo contexto.
A remoção da feature pela Meta é uma vitória pequena, mas concreta, para quem defende que plataformas digitais devem colocar o consentimento do usuário no centro de suas decisões de produto, especialmente quando o conteúdo em jogo são imagens de pessoas reais.
O que esperar daqui para frente
A Meta não divulgou se pretende relançar a funcionalidade com ajustes, ou se o Muse Image terá seu escopo de referenciamento de contas restringido de forma permanente. A empresa apenas confirmou que a feature foi removida e que levou o feedback em consideração.
Esta não é a primeira vez que a Meta recua diante de pressão pública em relação a funcionalidades de IA. Em outros momentos, a empresa desativou ou ajustou recursos relacionados a reconhecimento facial e moderação automatizada de conteúdo após críticas de usuários e reguladores. O padrão se repete: lançar rapidamente, recuar quando a reação é intensa.
O caso do Muse Image no Instagram provavelmente acelerará discussões dentro da Meta e de outras plataformas sobre como implementar recursos de IA generativa com controles de consentimento mais claros desde o início, especialmente diante de regulações cada vez mais rigorosas na Europa e em outros mercados.
Fonte original: Meta removes controversial AI feature on Instagram after backlash – TechCrunch
