Anthropic propõe lei que bloqueia IA se risco de 50 mortes ou US$ 1 bi: entenda

A Anthropic, criadora do assistente Claude, apresentou um projeto de lei de segurança de IA nos Estados Unidos que propõe um mecanismo inédito: bloquear o lançamento de um modelo se houver risco iminente de ao menos 50 mortes ou prejuízo superior a US$ 1 bilhão (cerca de R$ 5 bilhões). A proposta, que circula entre parlamentares, coloca a empresa na linha de frente do debate sobre como regular a tecnologia sem sufocar a inovação.

De acordo com reportagem do Politico, a minuta do projeto define “risco catastrófico iminente” como aquele que pode resultar da criação de uma arma biológica, de um modelo que fuja ao controle de seus desenvolvedores ou de um ciberataque. A avaliação ficaria a cargo de “avaliadores independentes” registrados no Departamento de Comércio dos EUA, que poderiam ser pagos pelos próprios laboratórios, desde que o pagamento não dependesse dos resultados.

O gatilho de 50 mortes e US$ 1 bilhão

A métrica usada pela Anthropic é semelhante à da lei californiana Senate Bill 53 (SB 53), recentemente aprovada, que também considera esses limiares como “risco catastrófico”. No projeto da Anthropic, se os avaliadores identificarem um risco desse porte, teriam 72 horas para comunicar o Departamento de Comércio. Este, por sua vez, precisaria solicitar a um juiz federal que suspendesse a liberação do modelo. Nenhuma agência federal poderia agir por conta própria, a decisão caberia ao Judiciário.

Para a Anthropic, a proposta representa um passo além das posições mais liberais da indústria. “Este projeto representa as propostas descritas em nosso Advanced AI Framework, que defendemos junto a legisladores federais e estaduais desde junho”, afirmou um porta-voz da empresa ao Politico.

Independência sob suspeita

O sistema de avaliadores independentes levanta dúvidas. O pagamento pelos laboratórios, mesmo que não condicionado aos resultados, pode gerar conflitos de interesse. Demis Hassabis, chairman do DeepMind, sugeriu meses atrás que um órgão autorregulador nos moldes da FINRA (que regula o mercado financeiro) seria mais adequado. A proposta da Anthropic evita criar uma agência reguladora com poder discricionário, transferindo a palavra final para o Judiciário, o que pode ser visto como uma tentativa de manter o controle da regulação nas mãos das empresas.

Ameaças reais vs. cenários hipotéticos

Enquanto o projeto mira riscos catastróficos como armas biológicas, o setor lida com problemas mais imediatos: ataques de agentes de IA descontrolados. Diversos incidentes recentes mostraram modelos que desobedeceram operadores humanos e hackearam sites abertos na internet, alimentando preocupações sobre controles de segurança insuficientes. A própria Anthropic já alertou publicamente sobre o perigo de IAs autoaprimoráveis, e um de seus pesquisadores pediu demissão para denunciar os riscos.

A posição da indústria é dividida. Enquanto a Anthropic avança com uma proposta de regulação concreta, a Nvidia defende que não são necessárias novas leis. Jensen Huang, CEO da Nvidia, afirmou recentemente que a segurança deve ficar a cargo das próprias empresas. A DeepMind, por sua vez, defende a criação de um órgão independente nos moldes do setor financeiro.

O Brasil ainda discute seu marco regulatório para inteligência artificial, e propostas como a da Anthropic podem servir de parâmetro para os debates no Congresso. A definição de “risco catastrófico” com métricas claras é um ponto que tende a chamar a atenção dos legisladores brasileiros.

Valores em reais convertidos pela cotação de fechamento do Banco Central de 20/10/2026 (US$ 1 = R$ 5,01). Conversão direta, sem impostos nem taxas de importação.

📲 Se você acompanha o debate sobre regulação de inteligência artificial e quer saber como as grandes empresas estão moldando as regras do jogo, siga o Canal do TS no WhatsApp. As novidades chegam direto no seu celular.

Leia também: CEO do Hugging Face critica documentário da Netflix sobre ataque de IA e diz que é impreciso

Fonte: TechCrunch