Três pesquisadores de segurança da OpenAI demitidos por vazamento contestam versão da empresa

A OpenAI demitiu três pesquisadores do time de segurança após acusá-los de vazar informações confidenciais. Eles negam ter compartilhado qualquer dado sigiloso e dizem que a empresa nunca os informou por escrito do que exatamente estariam sendo acusados.

Tomek Korbak, Mikita Balesni e Jasmine Wang foram desligados depois de uma investigação interna sobre supostas violações das políticas de tratamento de informações sensíveis. Em entrevistas ao The Wall Street Journal, eles contestam a versão da companhia. A OpenAI afirma que as demissões não têm relação com questões de segurança que os pesquisadores levantaram. Os três suspeitam do contrário: acreditam que a saída está ligada à defesa que faziam por modelos de IA mais transparentes e monitoráveis.

“Nunca nos disseram por escrito qual informação supostamente vazamos”, dizem os pesquisadores, que também temem que o caso desencoraje auditores externos de segurança a trabalhar com empresas de IA.

A investigação que levou às demissões

Tudo começou quando o time de segurança da OpenAI desconfiou que os três pesquisadores estavam compartilhando detalhes sobre a arquitetura interna dos modelos da empresa com um pesquisador externo de segurança, Ryan Greenblatt, na época diretor de ciência da Redwood Research.

A empresa pediu que eles desbloqueassem os celulares pessoais para inspeção. Nos aparelhos, a equipe encontrou conversas no Signal com mensagens que desaparecem ativadas. Uma semana depois, os três foram demitidos ao mesmo tempo.

A OpenAI disse que o Signal não é uma ferramenta de comunicação aprovada pela empresa, mas que esse não foi o motivo das demissões. Korbak rebate: mensagens que desaparecem são uma prática de segurança rotineira no setor de tecnologia.

O centro da disputa é técnico e com consequências grandes para o setor. Os modelos de IA de raciocínio registram as etapas intermediárias do processo de solução de problemas numa espécie de rascunho interno, conhecido como chain of thought (cadeia de pensamento). Empresas e pesquisadores de segurança dependem desses rastros para entender como os modelos chegam às decisões. Balesni, Korbak e Wang foram coautores de um artigo de 2025 que pedia acesso contínuo a essa capacidade. E nos últimos meses, funcionários de empresas de IA começaram a discutir modelos que pensam por mais tempo mas registram menos etapas intermediárias. Balesni discordou internamente e compartilhou uma proposta relacionada de Greenblatt.

Reportagem sobre o Astra deu o pontapé na investigação

A cooperação com Greenblatt virou um problema depois que o site The Information publicou, em 1º de setembro, que o novo modelo da OpenAI, o Astra, era mais capaz mas revelava menos do seu processo de raciocínio. O cientista-chefe da OpenAI, Jakub Pachocki, chamou a reportagem de “confusa” na época. Meses antes, porém, ele mesmo havia alertado sobre uma corrida da indústria em direção a modelos que não podem mais ser monitorados.

Semanas depois, a OpenAI abriu a investigação interna. Balesni afirma que os investigadores apontaram Greenblatt como a fonte suspeita do vazamento e exigiram ver as conversas dele no Signal com o pesquisador. Greenblatt nega ter passado informações confidenciais a jornalistas.

Jasmine Wang enfrentou uma acusação separada: a OpenAI disse que ela acessou repetidamente a caixa de entrada de um executivo. Wang afirma que havia pedido quase um ano antes para que esse acesso fosse revogado, que abriu um e-mail sigiloso por acidente no mês anterior, não compartilhou o conteúdo e comunicou o incidente imediatamente. A OpenAI diz que o acesso em si não foi o problema.

O medo que tomou conta do time de segurança

O efeito do caso já se espalhou pela empresa, segundo Korbak. “Colegas agora têm medo de conversar com pessoas de fora ou levantar questões de segurança internamente”, afirmou em entrevista ao WSJ.

Em uma carta enviada ao conselho da OpenAI, os três pesquisadores pedem maior cooperação com organizações externas de segurança. A demanda ganha ainda mais peso com uma auditoria presencial publicada recentemente: equipes da METR e da Redwood Research encontraram diversas falhas de segurança na infraestrutura da OpenAI, mas a empresa removeu quase metade do relatório final.

A OpenAI também publicou seu próprio relatório sobre uma nova arquitetura de segurança que opera sem acesso à internet, afirmou que corrigiu os problemas e retomou o treinamento de modelos no início de outubro. A empresa diz que anunciará novas parcerias externas em breve.

📲 Essa história sobre transparência e segurança em IA ainda tem muito desdobramento pela frente. Para não perder nenhum capítulo, entra no Canal do TS no WhatsApp.

Fonte: The Decoder