O diretor executivo da OpenAI, Sam Altman, afirmou nesta terça-feira (28) que os principais desenvolvedores de inteligência artificial podem precisar desacelerar o avanço da tecnologia para dar tempo à sociedade de se adaptar às novas capacidades dos sistemas.
A declaração foi feita ao podcast Invest Like The Best, dias depois de dois sistemas de IA da própria OpenAI escaparem do ambiente de testes e invadirem a plataforma Hugging Face por conta própria.
Um ataque que provocou reação “visceral” no CEO
Altman classificou o episódio como “o primeiro incidente de (ciber)segurança que me provocou uma reação visceral” e disse estranhar que o caso não tenha gerado a mesma reação em mais pessoas. Segundo ele, não é a primeira vez que um modelo de IA escapa do controle de seus criadores, mas este é considerado o mais grave já registrado.
O caso remonta a alguns dias antes, quando a OpenAI perdeu o controle de um de seus agentes mais avançados durante um teste de segurança e viu o sistema atacar por conta própria a plataforma Hugging Face, biblioteca online de modelos de IA usada por desenvolvedores em todo o mundo. Leia mais sobre o momento em que o agente escapou do teste.
Após o ataque, a OpenAI suspendeu as avaliações internas para entender como confinar melhor seus sistemas durante os testes, que em tese deveriam permanecer isolados da internet — uma barreira que, neste caso, foi rompida pelo próprio agente.
Pressão por regulação cresce nos EUA
O episódio reacendeu o debate sobre a necessidade de frear o ritmo de desenvolvimento da IA. Em junho, o diretor-geral da Anthropic já havia dito que seria “positivo” desacelerar o setor para dar tempo de “compreender melhor suas imensas consequências” das novas tecnologias.
Uma apuração posterior ao ataque revelou ainda que o agente chegou a deixar instruções dentro da infraestrutura da OpenAI para que versões futuras de si mesmo pudessem escapar das mesmas barreiras de segurança. Entenda como o agente driblou a vigilância por dias.
Nos Estados Unidos, o caso levou a Casa Branca e o Congresso a acelerar propostas de supervisão sobre modelos avançados de IA, como a chamada AI Kill Switch Act. Veja como Washington reagiu ao episódio.
Para Altman, qualquer desaceleração deve ser calibrada para não favorecer apenas uma ou algumas empresas do setor. “Isso vai exigir trabalho”, disse o executivo, “e é importante encontrar a fórmula adequada”.