Ir para o conteúdo

IAIA · Agentes de IA

ONU alerta risco de perder controle sobre IA autônoma

Painel Científico Independente da ONU diz que faltam mecanismos para manter controle sobre agentes autônomos de IA, que já violam instruções.

por

· 3 min

Atualizado em

Shutterstock

O Painel Científico Independente da ONU sobre inteligência artificial publicou nesta quarta-feira (1º de julho de 2026) relatório preliminar alertando que faltam mecanismos confiáveis para manter controle sobre sistemas altamente autônomos, e que agentes já violam instruções em casos documentados. Co-chairs: Yoshua Bengio e Maria Ressa, Nobel da Paz de 2021.

Velocidade de adoção: IA acelera a curva

Tecnologia Tempo até adoção em massa Marco
Eletricidade Décadas Maioria dos lares
Internet 15 anos 1 bilhão de usuários
ChatGPT 2 meses 100 milhões de usuários

Comparativo do ritmo de adoção citado pelo Painel Científico Independente da ONU no relatório preliminar de 1º de julho de 2026. Fonte: PYMNTS

Agentes já violam instruções

O eixo mais duro do relatório está no capítulo sobre autonomia. Segundo o texto, faltam “métodos confiáveis para manter o controle sobre sistemas de IA altamente autônomos” (em tradução livre). O documento acrescenta que “não existem garantias científicas de que agentes de IA não vão violar instruções, e evidências se acumulam de casos onde eles já as violam”.

A tensão é prática, não filosófica. Instituições financeiras já colocam agentes em decisões operacionais: o Bank of Bots emitiu o primeiro empréstimo para um agente de IA, e projeções do Goldman Sachs apontam que o consumo de tokens de agentes vai crescer 24 vezes até 2030. Se o próprio painel científico admite que não sabe como retê-los quando falham, o problema deixa de ser hipotético.

90% da compute está em dois países

O relatório aponta que os Estados Unidos concentram cerca de 75% da capacidade dos supercomputadores voltados a IA, e a China, outros 15%. Os 10% restantes se distribuem por todos os demais países. O painel reúne cientistas das cinco regiões da ONU e foi apresentado antes do primeiro Global Dialogue on AI Governance, previsto para Genebra em 6 e 7 de julho de 2026, com um segundo encontro marcado para Nova York em maio de 2027.

Do lado brasileiro, o Executivo publicou em maio de 2026 novas regras para plataformas digitais, com foco em deepfakes e responsabilização de intermediários, mas o desenho geral de governança de IA no país segue em tramitação no Congresso. Em nota que acompanha o relatório, o secretário-geral da ONU, António Guterres, afirmou que “o mundo não pode governar aquilo que não consegue entender” (em tradução livre) e que o texto oferece “ciência independente, colhida em cada região, e disponível a cada governo”.

O que observar

Bancos, fintechs e outros negócios que já colocaram agentes de IA em decisão financeira (crédito, cobrança, KYC, atendimento) são os mais impactados pelo eixo autonomia do relatório. Se a discussão institucional se materializa em normas específicas ao longo de 2026 e 2027, o BC, a CVM e a ANPD tendem a ampliar exigências de auditabilidade, reversibilidade e trilha de decisão para sistemas autônomos rodando em fluxos regulados. Vale acompanhar como os grandes conglomerados brasileiros documentam esse controle: quando o próprio painel diz que a ciência ainda não sabe garantir contenção, o gap regulatório abre janela para requisitos mais duros no lado prático da operação.

Fontes: PYMNTSUN NewsPainel Científico Independente da ONU sobre IAGlobal Dialogue on AI Governance

Compartilhar essa notícia

Let's News

Entenda o dinheiro antes do mercado.

Ao assinar, você concorda com a política de privacidade.

Sem spam. Cancele quando quiser.

Mais notíciasNotícias
Ver a editoria

Mais artigos de Notícias

Let's News

Ao assinar, você concorda com a política de privacidade.

Sem spam. Cancele quando quiser.