OpenAI fecha parceria com instituto polonês de segurança e encontra 6 falhas em roteadores

A OpenAI acabou de oficializar uma parceria com o NASK, instituto de pesquisa do governo polonês, para investigar a segurança de modelos de inteligência artificial. E a prova de que o negócio funciona veio antes mesmo da caneta no papel: o braço de resposta a incidentes do país usou a IA da empresa para encontrar seis vulnerabilidades em roteadores, todas já corrigidas.

O acordo dá ao AI Safety Research Center do NASK (que também funciona como o Polish Artificial Intelligence Safety Institute, ou AISI) acesso aos modelos de fronteira da OpenAI e aos processos de teste usados internamente pela empresa. O objetivo é avaliar sistemas cada vez mais capazes, mapear brechas de segurança e reforçar as salvaguardas.

Seis falhas no MikroTik RouterOS encontradas com IA

O caso concreto aconteceu em julho, antes da assinatura do acordo. O CERT Polska, equipe de resposta a incidentes do NASK, ganhou acesso aos modelos da OpenAI por um canal batizado de Daybreak. Os analistas apontaram as IAs para o sistema operacional MikroTik RouterOS e encontraram seis vulnerabilidades, incluindo falhas que podiam ser combinadas para assumir o controle de dispositivos sem qualquer autenticação.

As brechas foram reportadas à MikroTik, que liberou correções para o RouterOS. O CERT Polska confirmou que os patches impediram os ataques que seus analistas haviam registrado contra equipamentos sem as atualizações. Na prática, o ciclo fechou: o modelo encontrou a falha, o fabricante corrigiu, e o instituto validou que o remendo funcionava contra o ataque original.

Esse looping de testes é exatamente o que a OpenAI quer repetir com institutos nacionais de segurança. A empresa lembra que muitos dos cientistas que lideram suas próprias pesquisas são poloneses, o país não é nenhum estranho na turma.

Pesquisa em salvaguardas para serviços públicos

O NASK aplica sua pesquisa de segurança à proteção de serviços públicos e ao ambiente digital do país. O centro também trabalha na detecção de conteúdo sintético gerado por IA e no rastreamento do uso malicioso desse material em diferentes idiomas, uma preocupação que ganha peso num país cuja comunicação pública não se limita a uma só língua.

Radosław Nielek, diretor do NASK, disse em comunicado que “a segurança de IA não pode ser alcançada isoladamente. É um esforço colaborativo, e só através da cooperação ativa entre institutos públicos de segurança em IA e desenvolvedores de fronteira podemos garantir que a IA se torne realmente confiável e segura para uso.”

Tom Duff Gordon, VP and Head of EMEA Policy at OpenAI, completou: “À medida que a IA se torna mais capaz, é vital que busquemos expertise além da nossa própria organização para desafiar nossas premissas, testar nossos sistemas e reforçar as salvaguardas.”

Padrões internacionais e colaboração entre institutos

A OpenAI já trabalha com o US Center for Advancing Standards and Innovation for Super Intelligence (CAISSI) e com o UK AI Security Institute (AISI). A empresa diz que essas parcerias já ajudaram a identificar e corrigir vulnerabilidades em agentes de IA.

Para institutos nacionais, a OpenAI define quatro áreas de atuação conjunta: avaliação de capacidades e riscos, teste de salvaguardas, relato de incidentes (para que países comparem evidências quando um risco cruza fronteiras) e pesquisa técnica compartilhada. A companhia também tem defendido a coordenação entre países para criar padrões técnicos internacionais para IA de fronteira, com base no trabalho dos institutos de segurança.

📲 A corrida pela segurança em IA está só começando. Para acompanhar os próximos capítulos dessa história, entre no Canal do TS no WhatsApp.

Fonte: AI News