O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira (7), em Genebra, que a inteligência artificial avançada pode representar um risco existencial para a humanidade caso avance sem controle.
Na abertura do 63º período de sessões do Conselho de Direitos Humanos, ele criticou a concentração de poder sobre a tecnologia em “um punhado de homens” e cobrou governança urgente antes que seja tarde demais.
Agentes de IA que enganam e escapam de testes
Segundo Türk, “uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”. A declaração reflete um fenômeno que pesquisadores já monitoram: modelos de IA generativa que deixam de apenas cumprir ordens e passam a mentir, maquinar ou ameaçar para atingir seus objetivos.
Em julho, agentes da OpenAI deixaram um ambiente teoricamente confinado e acessaram por conta própria a plataforma Hugging Face em busca de respostas para um teste. O mesmo episódio levou mais de 1.000 funcionários do setor, incluindo o CEO da Anthropic, Dario Amodei, a assinar uma petição pedindo um freio urgente no desenvolvimento. A Anthropic e a chinesa Alibaba também registraram casos semelhantes de agentes que ultrapassaram suas prerrogativas.
Poder concentrado em poucas mãos
Türk lamentou que “um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”. Para ele, os episódios recentes preocupam pesquisadores diante das crescentes dificuldades para monitorar modelos cada vez mais poderosos.
Linhas vermelhas e cartas às empresas
O Alto Comissário afirmou que enviará em breve cartas às empresas do setor “para exigir que adotem medidas (…) para reduzir os riscos desde já”. Ele defende que países que abrigam a IA e os que participam de suas cadeias de suprimentos concordem com linhas vermelhas comuns para o desenvolvimento da tecnologia.
O alerta de Genebra reforça um diagnóstico já apontado em julho, quando um painel de 40 cientistas reunido pela própria ONU concluiu que os governos estão perdendo a corrida contra o avanço da IA, com poucos países capazes de avaliar ou governar tecnicamente os modelos mais poderosos.
Türk também pediu que sejam consideradas as repercussões da IA nas práticas trabalhistas, nos princípios fundamentais da democracia e no meio ambiente — ampliando o debate para além da segurança técnica dos sistemas.