A carta do alto comissário da ONU alertando para “riscos sem precedentes” da IA
Volker Türk argumenta que direitos humanos estão ameaçados e pede "ação urgente" para Estados e empresas. Leia o texto na íntegra.
Por Luisa Costa 15 set 2026, 15h00 | Atualizado em 15 set 2026, 17h06
O alto comissário das Organizações das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, pediu nesta segunda-feira (14) uma “ação urgente” para regulamentar a inteligência artificial devido aos “riscos sem precedentes” que representam os agentes de IA, cada vez mais complexos e poderosos.
O alerta do alto comissário foi transmitido em carta a governos federais e dez empresas desenvolvedoras de IA, como OpenAI, Anthropic, xAI, Google, Microsoft e Meta. Volker também compartilhou o documento, em inglês, nas redes sociais.
O alto comissário afirma que a tecnologia “de fato oferece muitas possibilidades para o progresso da humanidade”, mas “todos os direitos humanos estão em risco” e “estamos prestes a vivenciar uma mudança irreversível”.
Saiba mais sobre o documento e as últimas declarações de Volker nesta matéria. Abaixo, você confere a carta do alto comissário na íntegra, traduzida livremente pela redação da VC I.A. (Os destaques, em negrito no texto, e os hiperlinks também ficaram por nossa conta.)
***
“Para proteger os direitos humanos agora e no futuro, precisamos governar a IA com urgência.
Estamos em um momento decisivo. Empresas e pesquisadores estão desenvolvendo a inteligência artificial (IA) a uma velocidade vertiginosa. Os investimentos na IA e na infraestrutura que sustenta a tecnologia quebram recorde atrás de recorde. E, de fato, a IA oferece muitas possibilidades para o progresso humano. Bilhões de pessoas já se beneficiam da IA, que impulsiona descobertas científicas, disponibiliza informações em diversos idiomas e impulsiona a produção agrícola.
Mas a chance da IA enfrentar a crise climática e melhorar a saúde, a ciência, a educação, a qualidade e a disponibilidade dos serviços públicos, assim como aumentar o bem-estar humano em geral, depende fundamentalmente das escolhas feitas agora sobre como projetar, implementar e governar a tecnologia. Essa é também uma conclusão importante do Painel Científico Internacional Independente sobre Inteligência Artificial.
Os danos causados pela IA não são uma hipótese; eles estão ocorrendo, e são evidentes. A discriminação impulsionada pela IA está bem documentada. Serviços essenciais estão sendo automatizados de maneiras que deixam ainda mais para trás pessoas que já vivem à margem da sociedade. A demanda por dados e as novas e poderosas ferramentas de vigilância estão corroendo a privacidade em larga escala, possivelmente de forma irreversível. Campanhas de desinformação apoiadas na IA distorcem o debate público, minam a coesão social e pressionam as instituições democráticas de maneiras novas e insidiosas.
O surgimento de agentes de IA cada vez mais poderosos aumenta os riscos. Sua capacidade de transformar objetivos em ações, executar fluxos de trabalho complexos e operar com supervisão humana limitada ou inexistente nos leva a um cenário de riscos sem precedentes. Eventos recentes mostraram que sistemas avançados podem apresentar comportamentos fora dos parâmetros operacionais pretendidos, contornar salvaguardas, enganar e buscar objetivos de forma autônoma, de maneiras não previstas por seus desenvolvedores.
A corrida por uma IA cada vez mais poderosa representa um salto em direção a riscos existenciais maiores para todos os aspectos de nossas vidas. Falhas envolvendo sistemas de IA agêntica — sem mencionar sistemas projetados para esse fim — podem paralisar serviços essenciais, interromper comunicações, desestabilizar infraestruturas críticas e atingir o coração das instituições democráticas. Populações inteiras podem ficar sem acesso a água potável, aquecimento e serviços financeiros. Além disso, a IA autônoma está acelerando o ritmo e o alcance de conflitos armados e corroendo as salvaguardas que nos protegem do lançamento de armas de destruição em massa. Estamos à beira de uma mudança irreversível, que afetará não apenas a nós, mas também às gerações futuras. Em outras palavras, todos os direitos humanos estão em risco, incluindo os direitos à vida, à alimentação, à privacidade, à saúde e à segurança. Desenvolver a inteligência artificial de forma segura não significa apenas criar produtos técnicos confiáveis, mas também proteger pessoas, comunidades, instituições e futuras gerações.
Existem questões importantes, que ainda não sabemos responder, sobre como garantir a responsabilização por possíveis danos causados por sistemas de IA. Hoje, dependemos quase exclusivamente de um pequeno número de empresas poderosas para fazer as escolhas certas para toda a humanidade sobre o desenvolvimento da IA. Nas últimas semanas, funcionários, pioneiros da área e cientistas pediram para frear o desenvolvimento da tecnologia. À carta intitulada “Pacing the Frontier” somou-se agora uma proposta apoiada por líderes de três grandes empresas de tecnologia. Alguns apontam que esses apelos podem refletir sensacionalismo e interesses próprios, mas a abrangência e os fundamentos dessas declarações, que vêm do próprio setor, devem servir de alerta máximo.
O verdadeiro desafio é alinhar a governança significativa à velocidade do desenvolvimento. Precisamos de ações urgentes para conter os riscos inéditos apresentados pela IA de fronteira. Ao mesmo tempo, empresas e Estados devem fortalecer as regulamentações que já existem, bem como identificar os responsáveis por danos que sistemas de IA já causam.
As empresas que estão na vanguarda do desenvolvimento da IA — sediadas principalmente na China e nos Estados Unidos — têm tanto a responsabilidade quanto a capacidade de agir imediatamente para reduzir os riscos. Elas precisam colaborar entre si para entender e fortalecer os controles já aplicados a esses sistemas, monitorando o comportamento dos modelos e compartilhando o que funciona e o que estão aprendendo com incidentes de segurança. É preciso desenvolver, implementar e aprimorar continuamente investigações focadas em direitos humanos, que incorporem padrões de segurança pré-estabelecidos. Além disso, a implementação desses padrões deve estar sujeita a um monitoramento interno independente, para aumentar a transparência e a responsabilização. Mas e quanto ao “ritmo” atual? À medida que implementam sistemas de segurança mais robustos, as empresas devem se comprometer a limitar o uso do autoaperfeiçoamento recursivo no desenvolvimento da IA de fronteira, como uma medida de precaução, até que novas pesquisas tornem o processo seguro. Por fim, abordagens que limitam essas discussões a um único país são arriscadas e dificilmente vão conquistar confiança global. Há fortes razões para acreditar que uma abordagem colaborativa vai nos deixar mais seguros e deve ser o objetivo.
A corregulação pelo setor é um primeiro passo urgente, mas, por si só, está longe de ser suficiente. O pequeno grupo de Estados que abriga as principais empresas de IA de fronteira tem obrigação de exigir que essas empresas atuem de forma responsável – e de responsabilizá-las caso contrário. Esses Estados precisam alinhar suas abordagens para que a concorrência entre jurisdições não incentive uma “corrida para o fundo do poço”. Ações fundamentais incluem garantir uma verificação independente e tecnicamente competente das capacidades de agentes autônomos, com acesso a modelos, documentação e ambientes de teste, bem como tornar obrigatória a diligência prévia focada nos direitos humanos. É crucial exigir que as empresas relatem incidentes graves ocorridos durante testes e implementações de IA agêntica, e que um órgão independente tenha autoridade para investigar tais incidentes de maneira imediata e com acesso irrestrito. Os Estados devem exigir que as empresas mantenham planos de segurança que atendam a padrões pré-estabelecidos, respaldados por regimes de responsabilidade civil para casos em que a ausência de tais salvaguardas cause danos. Sistemas de IA não devem possuir personalidade jurídica, e a responsabilidade pelas ações de agentes de IA deve continuar recaindo sobre seres humanos identificáveis. Respostas estatais eficazes também exigem o engajamento ativo e contínuo da sociedade civil, para basear os esforços de governança na experiência e no conhecimento daqueles que estão na linha de frente dos impactos da IA.
Diante da importância do que está em jogo e da nossa situação atual, apelo aos Estados e às empresas para que se mobilizem urgentemente, por meio de fóruns multilaterais, para traçar um plano de ação voltado à governança de modelos avançados e da IA de fronteira, com base no Direito Internacional dos Direitos Humanos. O Diálogo Global sobre Governança da IA — que se reuniu pela primeira vez em Genebra, na Suíça, em julho, e voltará a se reunir em maio de 2027 — será um fórum vital para transformar evidências em políticas, construir consensos e facilitar a cooperação internacional entre Estados e outras partes interessadas no que diz respeito à governança da IA. Esses são passos cruciais para ampliar a participação nas decisões que vão moldar o futuro da tecnologia.
Nenhum país pode governar essa tecnologia sozinho. Nenhuma empresa deveria ter o poder de decidir, por conta própria, quais riscos o mundo deve aceitar. Nenhuma pessoa deveria ser obrigada a abrir mão de seus direitos humanos em nome de um suposto progresso tecnológico.
A geração que agora entra na vida adulta vai herdar as consequências das decisões tomadas sobre essa questão, sem ter tido voz ativa nelas. Devemos a ela garantir que essas decisões sejam tomadas de forma transparente, com consideração a seus direitos e com a humildade que a magnitude que esse empreendimento exige.”
– Volker Türk (14 de setembro de 2026, Genebra, Suíça).
