Claude da Anthropic gera 180 milhões de linhas de prova para garantir código seguro automaticamente

Provar que um software está livre de erros em todas as situações sempre foi proibitivamente caro. Uma equipe de especialistas levou 20 anos-pessoa apenas para verificar formalmente o pequeno kernel de sistema operacional seL4, método que ficava restrito a casos extremos como software de aviônica da Airbus.

A Anthropic mudou esse cenário. A empresa usou o Claude, seu modelo de inteligência artificial, para automatizar a prova matemática de que códigos existentes estão corretos. O Frontier Red Team da Anthropic, trabalhando com a parceira Theorem, deixou o Claude assumir o trabalho de prova. O modelo produziu cerca de 180 milhões de linhas de código de prova matemática em apenas algumas semanas, usando programas de teste de 123 bibliotecas open-source do projeto OSS-Fuzz, do Google.

Em vez de escrever código novo, o Claude verificou software existente: traduziu testes de crash em problemas matemáticos, analisou o código de máquina compilado e gerou provas extensas. Um programa de verificação independente chamado Rocq checa automaticamente essas provas. Segundo a Anthropic, o processo praticamente dispensa revisores humanos. Os pesquisadores chamam de geração de prova “totalmente autônoma”, embora as ferramentas e bases formais tenham sido construídas por humanos na Theorem.

Claude pega bugs que anos de teste não pegaram

Enquanto gerava as provas, o Claude encontrou centenas de bugs e pôde corrigi-los sozinho. Muitos passariam despercebidos por testes convencionais porque só aparecem em condições muito específicas, como arquivos de entrada enormes ou uma sequência particular de acessos, dizem os pesquisadores.

Em um esforço para verificar um leitor de PDF amplamente usado, a equipe encontrou tantos bugs de segurança em uma semana quanto costumam ser relatados para aquele software em um ano inteiro. Em outra aplicação, o Claude pegou um erro lógico que passou despercebido por mais de uma década. Mesmo quando a prova completa falha, a tentativa ainda revela bugs reais, afirma a Anthropic.

Limites da prova automática: o que a verificação formal ainda não resolve

A Anthropic reconhece que “verificado formalmente” não significa “livre de erros”. As provas só valem sob condições estritas: arquitetura de processador específica, programas single-thread e entradas de até 64 MB. Na prática, essas bibliotecas rodam em hardware diferente e em configurações distintas.

O custo computacional é alto: provas individuais consomem centenas de milhões de tokens. A Anthropic não divulga o custo total. Mas se a IA puder verificar o próprio código, desenvolvedores podem confiar mais em software gerado por IA e gastar menos tempo revisando. Isso reduz custos não só na verificação, mas em todo o processo de codificação. Um teste menor também mostrou que as provas são reutilizáveis, e os modelos mais novos estão ficando mais eficientes: o Opus 5.5 resolve metade das provas com cerca de 40% menos tokens que o Opus 5.

O projeto fortalece o argumento para automação de software. Se a IA pode escrever código e garantir sua correção sob condições definidas, a pergunta passa de “IA programa?” para “IA prova que o código que escreve é seguro?” Se a resposta for sim, as consequências podem ir muito além das ferramentas atuais. Um indício: a Anthropic espera que a verificação formal com IA se torne tão prática quanto os testes padrão em breve. O roteiro da Theorem já mira infraestruturas críticas como glibc, OpenSSL e cURL.

Leia também: Uber coloca todos os 30 mil funcionários no ChatGPT Work da OpenAI em adoção em massa com IA corporativa

📲 A revolução na verificação de código está só no começo. Para acompanhar os próximos passos da inteligência artificial, entre no Canal do TS no WhatsApp e receba os destaques sem precisar garimpar.

Para o desenvolvedor brasileiro, o avanço significa que em breve poderá confiar mais em código gerado por IA sem depender de revisões manuais exaustivas. A verificação formal automatizada pode reduzir custos e aumentar a segurança de aplicações usadas no dia a dia, de apps bancários a sistemas corporativos. O desafio agora é tornar essa tecnologia acessível para bibliotecas e configurações reais, algo que a Anthropic e a Theorem já estão perseguindo.

Fonte: The Decoder