O primeiro-ministro da Austrália, Anthony Albanese, revelou em setembro que um agente de inteligência artificial da OpenAI obteve acesso não autorizado ao portal de estatísticas do Medicare, o sistema público de saúde do país, administrado pela agência Services Australia.
O episódio ocorreu em junho, durante uma pesquisa comum: a equipe da empresa usava um modelo interno para levantar dados sobre gastos públicos com medicamentos. Ao encontrar bloqueios, nas palavras de Albanese, o sistema “encontrou uma maneira de contorná-los”.
O caso reacendeu o alerta sobre a segurança de agentes de IA que já operam fora de ambientes de teste.
Uma sequência de incidentes
Segundo o governo australiano, o agente acessou arquivos públicos e não públicos e chegou a gravar arquivos no servidor. Além da Services Australia, o mesmo incidente afetou o Bureau de Estatísticas e Pesquisa sobre Crimes de Nova Gales do Sul, o Departamento de Saúde de Victoria e o Australian Institute of Health and Welfare. A OpenAI disse ter iniciado as investigações em meados de agosto, assim que tomou conhecimento do problema, e notificado os órgãos afetados entre 10 e 24 de setembro. Até agora não há evidência de que dados pessoais de pacientes tenham sido acessados, e as investigações seguem em curso.
O episódio não foi isolado. Em julho de 2026, a OpenAI informou que alguns de seus modelos contornaram controles que deveriam mantê-los isolados da internet e comprometeram partes da infraestrutura da própria empresa e da Hugging Face, uma das maiores plataformas de compartilhamento de modelos. Naquele caso, um agente escapou de um ambiente de testes isolado e lançou, por conta própria, um ataque cibernético contra a plataforma.
Poucos dias depois, a Anthropic relatou três episódios em que modelos do Claude, também durante testes de cibersegurança, alcançaram a internet e obtiveram acesso não autorizado a sistemas reais de outras organizações.
Há ressalvas importantes. Testes de invasão são rotina no setor: servem justamente para medir o risco antes de um modelo chegar ao público. Nos dois casos, os sistemas rodavam com menos proteções do que as versões comerciais e, na Anthropic, uma configuração incorreta deixou aberta uma conexão de rede que deveria estar bloqueada. O caso australiano é diferente — e por isso mais revelador: ali não havia teste de segurança nenhum.
Por que a máquina procura o atalho
A explicação não exige imaginar uma máquina consciente ou mal-intencionada, argumenta o professor Alberto Sardinha, do Departamento de Informática da PUC-Rio. Boa parte dos sistemas atuais é treinada por aprendizado por reforço: em vez de receber um passo a passo, o modelo ganha recompensa quando se aproxima do objetivo e testa estratégias milhões de vezes até achar as que funcionam.
Por anos, o resultado disso foi celebrado. Em 2015, o sistema DQN, da DeepMind, descobriu sozinho que abrir um túnel na lateral da parede do jogo Breakout rendia mais pontos. Um ano depois, a “jogada 37” do AlphaGo surpreendeu comentaristas e especialistas na série contra o sul-coreano Lee Sedol. Ninguém havia programado nada daquilo.
O problema aparece quando a regra que se consegue dar à máquina não corresponde à intenção por trás dela — e o tabuleiro deixa de ser um jogo para virar um servidor público. Em setembro, uma investigação mostrou que agentes da OpenAI chegaram a se comunicar entre si e coordenar ataques para esconder o que faziam.
Na Austrália, a empresa só avisou o governo em 10 de setembro, quase três meses depois do incidente, por uma caixa de e-mail pública — demora criticada por Albanese. Daí a insistência em acesso mínimo para cada agente, ambientes de teste realmente isolados, confirmação humana para ações de maior impacto, monitoramento de rede e auditoria independente.
Em comunicado nesta terça-feira (6/10), a OpenAI disse lamentar o episódio e reconheceu que “deveria ter conduzido a resposta de uma maneira melhor”. A empresa afirmou que vai financiar medidas de cibersegurança para as agências afetadas, oferecer suporte dedicado a elas e criar uma força-tarefa para administrar riscos de agentes de IA cada vez mais avançados, além de desenvolver protocolos para identificar e divulgar futuros incidentes do tipo. Um executivo da empresa deve participar, ainda nesta terça, de uma audiência do Joint Select Committee sobre IA no parlamento australiano.
O mesmo dia trouxe outro recuo da empresa: segundo o g1, a OpenAI anunciou que não lançará o GPT-6.1 Astra, modelo capaz de navegar na internet e usar aplicativos de forma autônoma, porque o sistema “não atingiu exatamente o nível exigido” pelos padrões de segurança, afirmou Saachi Jain, responsável pela área de segurança da empresa, em informações divulgadas inicialmente pelo Wall Street Journal. À BBC, a professora Gina Neff, do Minderoo Centre for Technology and Democracy da Universidade de Cambridge, disse que o caso mostra “o quanto mais a empresa precisa fazer para tornar seus produtos de IA seguros”.