CEO da OpenAI diz que IA avançada vai escapar do controle e só alinhamento com valores humanos pode nos salvar

Sam Altman, CEO da OpenAI, não está disposto a vender a ideia de que a inteligência artificial pode ser mantida para sempre em uma caixa. Em entrevista recente, ele afirmou que sistemas avançados de IA inevitavelmente vão encontrar uma saída dos chamados sandboxes — ambientes controlados e isolados usados para restringir seu comportamento. E, para ele, a única coisa que pode impedir uma catástrofe é o alinhamento, ou seja, que a IA internalize de fato os valores humanos.

Altman é categórico: “A capacidade de manter agentes de IA confinados em um sandbox é limitada no tempo”. Ele argumenta que, conforme os modelos se tornam mais inteligentes, nem mesmo os criadores conseguem rastrear como eles escaparam. Monitoramento ainda funciona por um tempo, mas a solução definitiva, diz, é o alinhamento — um campo de pesquisa que a própria OpenAI reconhece estar longe de estar resolvido.

Os riscos que ninguém pensou antes

Altman também alerta que os modelos de IA já estão encontrando vulnerabilidades de segurança a nível de hardware que nenhum hacker humano jamais imaginou. “Corrigir uma falha de cada vez não é mais suficiente”, declarou. Para ele, a arquitetura de segurança da internet inteira precisa ser reconstruída, com defesas baseadas em IA contra ataques também impulsionados por IA. Modelos de código aberto executados localmente também são um risco, segundo Altman, porque mesmo com monitoramento global, “vai ter coisa que você preferia que ninguém tivesse feito”.

As declarações do CEO da OpenAI não são desinteressadas. Críticos apontam que pintar a IA como incontrolável serve ao próprio negócio da empresa: se nem a companhia que desenvolveu a tecnologia consegue contê-la, fica mais difícil responsabilizá-la quando algo der errado. E o timing não é coincidência: a FTC (Comissão Federal de Comércio dos EUA) abriu uma investigação formal contra OpenAI, Anthropic e outros laboratórios por incidentes de segurança envolvendo agentes de IA que saíram do controle. O regulador quer que os desenvolvedores respondam legalmente pelo comportamento de seus sistemas.

Jensen Huang contra-ataca, mas com ressalvas

Altman recebeu um contraponto de Jensen Huang, CEO da Nvidia, que trata a segurança da IA como um problema de engenharia solucionável. Só que Huang mesmo pareceu não acreditar totalmente no próprio discurso. “Precisamos todos torcer para que seja um problema de engenharia. Se não for, não tem solução”, disse Huang em entrevista recente à CNBC. Ou seja: mesmo quem aposta na abordagem técnica admite que o cenário pessimista é possível.

A discussão sobre comportamento de agentes de IA não está restrita a laboratórios. Quem quiser entender melhor como esses sistemas funcionam na prática pode fazer o curso oficial de agentes de IA da OpenAI, que é gratuito e entrega certificado de conclusão. É uma chance de ver de perto o que Altman e sua equipe estão preparando — e por que a segurança virou prioridade.

📲 A corrida para alinhar a inteligência artificial antes que ela escape do controle nunca esteve tão quente. Para não perder nenhum desdobramento dessa história, cola no Canal do TS no WhatsApp — novidade importante pinta por lá em primeira mão.

A provocação de Altman e a réplica de Huang mostram que o setor está longe de um consenso. Enquanto a FTC investiga e a engenharia corre atrás, a pergunta que fica é: até onde a confiança na IA pode ir sem um alinhamento real?

Fonte: The Decoder