Anthropic avisa que está perto de criar IA que melhora a si mesma

A Anthropic resolveu colocar na mesa um dos cenários que mais assombram (e empolgam) o mundo da inteligência artificial. Em meio aos números do seu pedido de abertura de capital, o laboratório usou o documento para avisar: está perto de criar uma máquina que se constrói sozinha.

No S-1A revisado, protocolado nesta segunda-feira (2), a empresa incluiu uma seção de fatores de risco que, nas entrelinhas, descreve algo bem específico: o RSI, ou recursive self-improvement. Traduzindo, é o ponto em que um modelo de IA fica tão bom em treinar a si mesmo que o ritmo de evolução dispara, deixa de ser previsível e pode escapar do controle humano.

Há oito dias, o cofundador Jack Clark já tinha adiantado ao TecStudio que a empresa via o RSI possível em 2027. O que muda agora é o tom: o aviso está num documento legal, com peso de disclosure para investidores.

O que é RSI e por que a Anthropic acendeu o alerta

RSI é a sigla que divide o campo da IA ao meio. Para os alarmistas, é o cenário de filme em que a inteligência artificial se torna tão poderosa que persegue objetivos próprios com indiferença total ao estrago que causa pelo caminho. Para os entusiastas, é a promessa de uma ferramenta capaz de gerar produtividade e descoberta científica em escala que hoje parece ficção.

A Anthropic, ao que tudo indica, enxerga os dois lados. No S-1A, a empresa diz que já usa IA nos próprios processos de pesquisa e desenvolvimento, mas faz uma ressalva direta: usar IA para ajudar a construir IA mais capaz “could also pose a considerable safety risk, particularly if it sharply accelerates the pace of progress”. E classifica o tema como parte da sua Responsible Scaling Policy, a política que define como monitorar e mitigar riscos conforme a empresa se aproxima do que chama de “auto-melhoria recursiva”.

O documento é claro que nenhum dos modelos atuais da Anthropic cruzou essa linha. Mas o “iminente” é o que acende o sinal amarelo.

O que o S-1A diz exatamente sobre o RSI

A seção de fatores de risco do documento traz duas afirmações que chamam atenção. A primeira: a empresa já usou IA para desenvolver novos modelos cujo salto de capacidade não foi identificado na hora. A segunda: a Anthropic pode bater em breve na sua própria definição interna de RSI.

O texto diz, por exemplo, que “our internal estimates and our expectations regarding future models, rather than our current models, indicate that we may imminently meet our Responsible Scaling Policy’s definition of ‘dramatically accelerated progress attributable to AI'””

A empresa ressalta que nenhum dos modelos atuais passou desse limite, e que continua avaliando os dados de perto. Também promete manter humanos no processo de pesquisa pelo futuro previsível. “We do not anticipate being able to safely use Claude to fully autonomously design and build successive generations of frontier models without meaningful human supervision or understanding”, diz o documento.

O episódio em que a IA passou despercebida

Uma das passagens mais reveladoras do S-1A é a admissão de que a empresa já deixou um salto de capacidade passar batido. “No passado, não identificamos, e no futuro podemos não identificar, uma aceleração significativa na nossa taxa de desenvolvimento até depois que ela já tiver ocorrido.”

Traduzindo: a IA já acelerou o próprio desenvolvimento sem que a equipe da Anthropic percebesse a tempo. Se isso aconteceu uma vez, o argumento do documento é que pode acontecer de novo, e com consequências maiores.

É claro que céticos podem lembrar que um S-1 serve tanto para informar quanto para vender a história da empresa para investidores. Colocar no papel que se está à beira de uma descoberta transformadora pode ser marketing tanto quanto disclosure. Mas, como o próprio TechCrunch observa, as capacidades do Claude em programação, matemática e cibersegurança deram saltos reais neste ano. Se a Anthropic acha que o RSI está perto, talvez valha a pena levar o aviso a sério.

📲 Essa história tem implicações que vão muito além de uma empresa. Para não perder os próximos capítulos sobre os riscos e promessas da IA, entra no Canal do TS no WhatsApp.

Fonte: TechCrunch