Secretário da ONU alerta para corrida da IA sem regras: "desastre mundial"

Secretário-geral da ONU pede cooperação global para evitar que disputa tecnológica entre potências comprometa a segurança da inteligência artificial

O secretário-geral da ONU, António Guterres, intensificou os alertas sobre a inteligência artificial às vésperas da Semana de Alto Nível da Assembleia Geral, em Nova York. Ele advertiu que a tecnologia avança mais rápido do que a capacidade humana de compreender seus riscos e que uma corrida entre as grandes potências tecnológicas, sem mecanismos de cooperação, pode resultar em um desastre de alcance mundial.

As declarações foram feitas durante a coletiva de imprensa que antecede o Debate Geral da 81ª sessão da Assembleia Geral das Nações Unidas, que reúne chefes de Estado e de governo a partir do dia 22. A sessão foi aberta em 8 de setembro.

Ao tratar da inteligência artificial, Guterres reconheceu o potencial da tecnologia para acelerar o desenvolvimento sustentável, melhorar a educação, os sistemas de saúde e ampliar a capacidade de resposta às mudanças climáticas. No entanto, chamou atenção para os alertas que partem dos próprios líderes e especialistas envolvidos no desenvolvimento desses sistemas.

"Muitas pessoas que estão construindo esses sistemas vem soando o alarme e alertando que o desenvolvimento da tecnologia está avançando mais rápido do que nossa capacidade de compreender os riscos." Guterres lembrou que há especialistas defendendo uma pausa no desenvolvimento dos sistemas mais avançados e outros propondo salvaguardas mais rígidas — proposta associada ao CEO da Anthropic, Dario Amodei. Para ele, porém, uma questão central permanece em aberto: quem deve assumir a responsabilidade por essas decisões. "Os governos precisam assumir suas responsabilidades."

O secretário-geral acrescentou que medidas adotadas individualmente pelos países não serão suficientes diante de uma tecnologia de alcance global. "A ação nacional é essencial. Mas a coordenação global também é indispensável. A IA não respeita fronteiras — e seus riscos também não."

Guterres também fez uma ressalva às propostas de pausas voluntárias adotadas pelas próprias empresas ou por alguns países isoladamente. "Pausas voluntárias isoladas, que não possam ser verificadas e sejam aplicadas de maneira desigual não resolverão o problema." Segundo ele, se for necessário desacelerar o desenvolvimento da IA quando os riscos se tornarem excessivos, será preciso criar mecanismos internacionais capazes de agir de forma coordenada.

Guterres alertou para o risco de que a competição geopolítica leve países e empresas a acelerar o desenvolvimento da IA em detrimento da segurança. Sem mencionar diretamente Donald Trump — que já se mostrou contrário à desaceleração, alegando que os Estados Unidos não podem perder a corrida para a China —, o secretário-geral foi direto: "O mundo não pode se dar ao luxo de uma corrida que leve ao rebaixamento os padrões de segurança da IA."

Ao responder a jornalistas, Guterres aprofundou essa preocupação e traçou um paralelo com a lógica da Guerra Fria. Lembrou que, mesmo durante a disputa entre Estados Unidos e União Soviética, o risco nuclear levou as duas potências a estabelecer canais de comunicação, trocar informações e negociar mecanismos para limitar os perigos. Segundo ele, algo semelhante será necessário agora. "Os países que estão na linha de desenvolvimento da inteligência artificial precisam manter canais de comunicação, compartilhar informações e trabalhar com salvaguardas comuns."

Caso contrário, advertiu, uma corrida desenfreada poderá levar a "um desastre gigantesco em escala mundial". Guterres ressaltou que não se referia apenas a Estados Unidos e China, mas a todos os países com maior capacidade no desenvolvimento dos sistemas mais avançados de IA.

O secretário-geral disse ainda que vê espaço para a realização, no momento adequado, de uma grande cúpula internacional dedicada à inteligência artificial, mas descartou a ideia de convocar uma reunião desse porte às pressas durante a atual Semana de Alto Nível. Para Guterres, um encontro desse tipo precisaria ser adequadamente preparado e fazer parte de um processo mais amplo de cooperação entre governos, empresas, cientistas e sociedade civil.

Guterres voltou aos alertas feitos pelas próprias companhias de tecnologia, destacando que dirigentes e profissionais na linha de frente do desenvolvimento da IA reconhecem riscos que ainda não conseguem controlar completamente. Para ele, isso reforça a necessidade de atuação dos governos e de cooperação internacional, em vez de deixar as decisões sobre o ritmo e a segurança do desenvolvimento apenas nas mãos das empresas.

Ao situar o debate em um cenário mais amplo, Guterres colocou a inteligência artificial sem controle ao lado da crise climática e do aprofundamento das desigualdades. "Em um momento em que o mundo enfrenta três ameaças existenciais — a inteligência artificial fora de controle, a crise climática e o intolerável aprofundamento das desigualdades —, a cooperação internacional é mais necessária do que nunca."

A própria ONU chega à Semana de Alto Nível sob questionamentos sobre a capacidade das instituições multilaterais de responder às grandes crises internacionais. No início da coletiva, Guterres afirmou que mudanças na distribuição do poder mundial exigem também mudanças nas instituições. "O poder está mudando. O mundo está mudando. E nossas instituições precisam mudar com ele."

Ao responder sobre a perda de confiança no multilateralismo e na ONU, Guterres apontou a Assembleia Geral como uma oportunidade para aproximar líderes de países envolvidos em conflitos e abrir espaço para negociações diplomáticas.

O debate ocorre pouco depois de uma pesquisa do Pew Research Center mostrar uma piora na imagem da organização em vários países. A proporção de pessoas com avaliação favorável da ONU caiu de forma significativa em dez países em comparação com levantamentos anteriores. A mediana de avaliações favoráveis foi de 55%, contra 37% desfavoráveis. No Brasil, 47% dos entrevistados disseram ter uma visão positiva da ONU e 37%, negativa.