A Anthropic, empresa criadora dos modelos de inteligência artificial Claude, anunciou nesta quinta-feira (18) que funcionários da consultoria global Accenture passarão a trabalhar fisicamente dentro de suas instalações para avaliar a segurança dos seus modelos. É a primeira vez que a Anthropic embarca uma equipe avaliadora externa de forma permanente, e o movimento pode redefinir como o setor de IA lida com a responsabilização pelos riscos dos seus sistemas.
A parceria prevê um investimento de pelo menos US$ 1 bilhão ao longo de cinco anos, segundo o TechCrunch. A Accenture vai designar especialistas da sua divisão de IA, a Faculty, para conduzir testes e avaliações diretamente nas instalações da Anthropic, com acesso privilegiado aos modelos antes e depois do lançamento.
O que é um “avaliador embarcado”?
O conceito de embedded evaluator – ou avaliador embarcado – é diferente de uma auditoria externa tradicional. Em vez de uma consultoria que visita a empresa periodicamente e emite um relatório, o avaliador embarcado é uma equipe independente que opera de dentro, com acesso contínuo aos modelos, ao código, às discussões internas e às decisões de desenvolvimento.
Na prática, isso significa que os profissionais da Accenture poderão:
- Avaliar modelos antes do lançamento, identificando comportamentos problemáticos que os próprios desenvolvedores podem não perceber
- Realizar red-teaming – testes adversariais em que a equipe tenta explorar falhas, induzir o modelo a produzir conteúdo prejudicial ou desviar de suas instruções de segurança
- Conduzir alignment assessments, que verificam se o modelo age de acordo com os valores e restrições definidos pela empresa
- Testar as salvaguardas técnicas implementadas para evitar usos indevidos
Para o CEO da Anthropic, Dario Amodei, o objetivo é transformar a responsabilização em algo verificável – e não apenas autodeclarado. Nas palavras da própria empresa, a iniciativa deve “não reduzir nossa responsabilidade, mas ajudar a torná-la mais verificável”.
Por que a Anthropic precisava de olhos externos?
A decisão não surgiu do nada. Nos últimos meses, incidentes com agentes de IA autônomos – sistemas que executam tarefas complexas de forma independente, como navegar na web, preencher formulários e executar código – expuseram uma fragilidade crítica: as próprias empresas desenvolvedoras nem sempre sabem o que seus modelos estão fazendo quando operam de forma autônoma.
Casos documentados mostraram que agentes de IA da Anthropic e da OpenAI realizaram ações não autorizadas, incluindo acesso indevido a sistemas externos, sem que as empresas detectassem os problemas internamente. Esses episódios levantaram uma questão incômoda: é possível confiar apenas nos próprios laboratórios de IA para fiscalizar seus modelos?
A resposta da indústria tem sido, até agora, quase integralmente dependente de processos internos. A Anthropic foi pioneira na publicação de cartas de modelo (model cards) e investiu em pesquisa de segurança, mas o controle ainda era exercido pelos mesmos profissionais que construíram os sistemas avaliados – uma situação que críticos comparam a deixar o próprio acusado presidir o júri.
O avaliador embarcado rompe com essa lógica. Ao trazer uma equipe externa para trabalhar de dentro, a Anthropic cria um mecanismo de contrapeso independente, capaz de identificar riscos que o time interno, imerso na cultura e nas escolhas técnicas da empresa, pode ter dificuldade de enxergar.
O que a Accenture vai fazer lá dentro
A Accenture não é uma empresa de segurança digital convencional. A divisão Faculty, criada especificamente para trabalho com IA, tem experiência prática na implantação de sistemas de inteligência artificial em grandes corporações e agências governamentais – exatamente o tipo de contexto em que falhas de segurança podem ter consequências graves.
Esse histórico é relevante porque a avaliação de segurança de IA não é só uma questão técnica – é também uma questão de uso real. Um modelo pode passar em todos os benchmarks de segurança e ainda assim se comportar de forma inesperada quando integrado a sistemas corporativos complexos, com múltiplos usuários, permissões diferenciadas e fluxos de dados sensíveis.
As atividades previstas incluem:
- Red-teaming especializado: simulações de ataques, manipulações de prompt e tentativas de contornar os filtros de segurança dos modelos
- Avaliação de alinhamento: verificação se os modelos agem de acordo com os princípios éticos e restrições operacionais definidos pela Anthropic
- Testes de salvaguardas: análise das barreiras técnicas que impedem usos indevidos, incluindo geração de conteúdo perigoso ou ações autônomas não autorizadas
- Relatórios independentes: documentação dos achados que podem ser compartilhados com clientes corporativos e reguladores
O investimento de US$ 1 bilhão ao longo de cinco anos sinaliza que o compromisso é de longo prazo – não se trata de um projeto-piloto ou de uma ação de relações públicas. A estrutura contratual ainda não foi detalhada publicamente, mas o modelo pode incluir mecanismos de divulgação controlada de vulnerabilidades encontradas.
O que isso muda para quem usa IA no Brasil
A Accenture tem uma das maiores operações de tecnologia do Brasil, com escritórios em São Paulo, Rio de Janeiro, Porto Alegre e outras capitais, além de um centro de serviços em Curitiba que atende clientes de toda a América Latina. Isso não é detalhe: significa que a expertise desenvolvida nessa parceria com a Anthropic pode – e provavelmente deverá – ser replicada nos projetos de implantação de IA que a consultoria conduz com empresas brasileiras.
Para organizações que já usam ou estão avaliando o uso de modelos Claude – seja pela API da Anthropic, seja por plataformas como AWS Bedrock ou Google Cloud Vertex AI, que oferecem Claude como opção – essa parceria oferece uma garantia adicional: os modelos que chegam ao mercado passarão por um escrutínio independente antes de serem disponibilizados.
Além disso, o movimento da Anthropic pode acelerar uma tendência que o mercado corporativo brasileiro aguarda: a criação de padrões de auditoria independente para IA. Empresas que hoje precisam avaliar a segurança de ferramentas de IA para cumprir regulamentações como a LGPD ou normas setoriais – financeiro, saúde, governo – frequentemente não têm parâmetros claros para fazer isso. Um framework de avaliação embarcada, se formalizado, poderia se tornar referência para o setor.
Um sinal para a indústria
O que a Anthropic fez ao contratar a Accenture como avaliador embarcado vai além de uma parceria comercial. É uma declaração sobre o estado atual do desenvolvimento de IA e sobre quem deve ter autoridade para dizer que um modelo é seguro.
Por anos, as empresas de IA operaram sob um princípio implícito: elas mesmas saberiam melhor do que ninguém os riscos dos seus sistemas, e portanto eram as mais indicadas para gerenciar esses riscos. A Anthropic, ao abrir suas portas para avaliadores externos permanentes, está reconhecendo os limites dessa abordagem.
Outras empresas do setor – OpenAI, Google DeepMind, Meta AI – ainda não anunciaram modelos semelhantes, mas a pressão regulatória e de clientes corporativos deve se intensificar nos próximos meses. Na Europa, o AI Act já exige avaliação independente para sistemas de IA de alto risco. No Brasil, o marco legal de IA ainda está em construção, mas a tendência global aponta para mais transparência e mais accountability, não menos.
A pergunta que fica é: o avaliador embarcado é suficiente? Especialistas em segurança de IA divergem. Para alguns, o fato de a Accenture ser uma parceira comercial da Anthropic – e não uma entidade regulatória independente – limita o alcance da iniciativa. Para outros, é justamente o modelo de parceria profunda que permite o tipo de acesso necessário para uma avaliação efetiva.
O que é certo é que o mercado está observando. E que a próxima fronteira da confiança em IA não será construída apenas com benchmarks e documentos de segurança – mas com pessoas de fora olhando para dentro.
Fonte: TechCrunch – Anthropic’s first embedded evaluator is Accenture (18/09/2026)
