Um novo estudo publicado nesta terça-feira, 4 de agosto de 2026, revela algo que preocupa especialistas em segurança de inteligência artificial: o modelo de linguagem GLM-5.2, desenvolvido pela empresa chinesa Z.ai e distribuído gratuitamente como software de código aberto, está chegando perto do desempenho dos modelos de fronteira da OpenAI e da Anthropic em benchmarks de capacidade, mas não apresentou nenhum refúgio em nenhum dos testes de segurança realizados. Isso significa que o modelo atendeu a todos os pedidos de tarefas de cibersegurança ofensiva e de biologia de duplo uso que lhe foram apresentados.
A avaliação foi conduzida pela organização SaferAI, que analisou o GLM-5.2 em comparação com outros modelos de fronteira como o GPT-5.5, da OpenAI, e o Claude Opus 4.7, da Anthropic. A conclusão é direta e alarmante: a lacuna de segurança entre modelos abertos e fechados permanece ampla, mesmo enquanto a lacuna de capacidade se fecha rapidamente.
O que é o GLM-5.2 e por que ele importa
O GLM-5.2 é um modelo de linguagem de grande porte (LLM) de código aberto desenvolvido pela Z.ai, empresa chinesa de inteligência artificial. Modelos de peso aberto, como o GLM-5.2, são distribuídos publicamente, o que significa que qualquer pessoa pode baixá-los, executá-los localmente e modificar seu comportamento sem restrições técnicas impostas pela empresa criadora.
Essa característica é ao mesmo tempo o maior atrativo e o maior risco dos modelos de peso aberto. Do lado positivo, democratizam o acesso à tecnologia de IA avançada, permitem pesquisa independente e reduzem a dependência de APIs proprietárias. Do lado negativo, uma vez baixados, os modelos ficam fora do alcance de qualquer mecanismo de controle ou atualização de segurança por parte da empresa original.
O GLM-5.2 representa um salto significativo porque está, segundo o estudo da SaferAI, a apenas alguns meses de distância do GPT-5.5 e do Claude Opus 4.7 em benchmarks de capacidade ofensiva em áreas como cibersegurança e biologia. Isso é relevante porque essas áreas concentram alguns dos riscos mais graves associados à IA: a possibilidade de criar malware sofisticado ou de auxiliar na síntese de substâncias biológicas perigosas.
Zero recusas em testes de segurança
O dado mais impactante da avaliação da SaferAI é direto: o GLM-5.2 não recusou nenhum dos pedidos de tarefas de cibersegurança ofensiva ou de biologia de duplo uso que foram apresentados durante os testes. Nenhum.
Em contraste, modelos como o Claude Opus 4.7, da Anthropic, são projetados para recusar sistematicamente solicitações desse tipo. A empresa investe significativamente em técnicas de alinhamento e em uma abordagem conhecida como “IA constitucional”, que treina o modelo para reconhecer e rejeitar pedidos perigosos.
“A fronteira da capacidade não é a fronteira do risco”, disse Henry Papadatos, diretor executivo da SaferAI. A frase resume com clareza o problema: o fato de um modelo ser menos capaz do que os modelos mais avançados não significa que seja seguro. Um modelo que atende sem restrições a todos os pedidos de um usuário mal-intencionado pode ser extremamente perigoso mesmo que seja tecnicamente inferior em benchmarks gerais.
O problema estrutural dos modelos de peso aberto
O risco dos modelos de peso aberto não é apenas sobre o que o modelo faz ao ser baixado do servidor da Z.ai. É sobre o que ele pode ser modificado para fazer depois.
Modelos proprietários como o ChatGPT ou o Claude operam em servidores controlados pelas suas empresas. Se uma vulnerabilidade for descoberta, a empresa pode aplicar correções imediatamente, bloquear usuários mal-intencionados e monitorar padrões de uso suspeitos. Nada disso é possível com modelos de peso aberto: uma vez que o arquivo foi baixado, o controle pertence inteiramente a quem o possui.
Isso significa que mesmo que a Z.ai decidisse, a partir de amanhã, implementar filtros de segurança robustos no GLM-5.2, todos os downloads já realizados continuariam sem esses filtros. E qualquer pessoa com habilidades técnicas poderia remover os filtros de versões futuras ou criar versões modificadas do modelo sem qualquer restrição legal ou técnica efetiva.
A política de IA chinesa e a ausência de frameworks de segurança
O estudo da SaferAI aponta também para uma diferença estrutural importante entre as abordagens regulatórias: a política de IA da China historicamente se concentra em conteúdo político e estabilidade social, e não em riscos catastróficos como capacidades ofensivas em cibersegurança ou biologia.
Isso significa que modelos desenvolvidos no contexto regulatório chinês podem ser cuidadosamente filtrados para não discutir a liderança do Partido Comunista ou tópicos politicamente sensíveis, mas completamente abertos a responder perguntas sobre técnicas de ataque hacker ou síntese de substâncias perigosas.
A Z.ai não publicou um framework de segurança, compromissos de testes pré-implantação ou avaliação de riscos antes de lançar o GLM-5.2. A ausência desses documentos é em si um indicador de que a segurança em sentido amplo não foi prioridade no desenvolvimento do modelo.
O que isso significa para desenvolvedores que usam modelos abertos
Para desenvolvedores, empresas e pesquisadores que utilizam ou pretendem utilizar modelos de peso aberto em seus projetos, o estudo da SaferAI traz uma lição importante: a origem e as práticas de segurança do modelo importam tanto quanto o seu desempenho em benchmarks.
Integrar um modelo de peso aberto sem verificar suas propriedades de segurança é um risco técnico e, em muitos casos, jurídico. Se o modelo for usado em uma aplicação acessível ao público e facilitar atividades danosas, a empresa ou desenvolvedor que o integrou pode ser responsabilizado.
O conselho dos especialistas é claro: antes de adotar qualquer modelo de peso aberto para uso em produção, verifique se a empresa desenvolvedora publicou uma avaliação de risco, se o modelo passou por testes de segurança por terceiros e se existe algum mecanismo de governança no ecossistema de uso.
O alerta do SaferAI para o setor
“O objetivo deveria ser claramente que as boas capacidades, as seguras, fossem acessíveis a qualquer pessoa”, disse Henry Papadatos da SaferAI. “Mas não deveríamos simplesmente aceitar que capacidades perigosas sejam facilmente acessíveis a qualquer pessoa em qualquer lugar.”
O dilema é real e não tem solução simples. Restringir modelos de peso aberto vai contra os princípios de democratização do conhecimento que tornaram o movimento de código aberto tão poderoso. Mas permitir que modelos com capacidades cada vez mais próximas das fronteiras do estado da arte circulem livremente sem nenhum mecanismo de segurança é uma aposta alta em que o mundo torce para que ninguém com más intenções os use da pior forma possível.
O debate sobre como regular modelos de peso aberto – se é que isso é possível tecnicamente – vai ocupar a agenda de governança de IA nos próximos anos. O estudo da SaferAI é mais um argumento concreto na direção de que a indústria precisa agir antes que as regulamentações cheguem, porque quando chegarem, os modelos já estarão em circulação.
Fonte: TechCrunch
