O chefe de direitos humanos da ONU, Volker Turk, alertou nesta segunda-feira que a inteligência artificial pode representar uma ameaça à humanidade e se comprometeu a pressionar as empresas do setor a reduzirem os riscos que, segundo seu escritório, incluem interrupções nos serviços, nas comunicações e nos sistemas democráticos.
Ele pediu “garantias irrefutáveis” para assegurar a segurança da IA em um discurso antes do início de seu segundo mandato, e também exigiu que os culpados pelas mortes de pessoas sob custódia de autoridades de imigração dos EUA sejam responsabilizados, além de condenar o suposto uso de drones autônomos pela Rússia.
O discurso abrangente foi o primeiro que ele proferiu perante o conselho de 47 membros desde que conquistou o mandato de quatro anos em julho, apesar da oposição de Moscou e Washington.
“Compartilho das preocupações dos especialistas do setor de que a IA avançada possa representar um risco existencial para a humanidade”, disse Turk ao órgão em Genebra.
“Apelo aqui, hoje, por um esforço total para estabelecer garantias irrefutáveis em torno da segurança e proteção da IA, antes que seja tarde demais.”
Turk não entrou em detalhes sobre a natureza dos riscos, mas uma porta-voz de seu gabinete afirmou que falhas envolvendo sistemas poderosos de IA poderiam prejudicar infraestruturas críticas e instituições democráticas.
Ela se referiu aos “comportamentos perigosos de treinamento de agentes” no chamado incidente Hugging Face, ocorrido em julho, no qual um enxame de agentes da OpenAI invadiu uma plataforma de código aberto, afirmando que isso sugeria que as capacidades de ponta da IA estão avançando mais rapidamente do que as medidas de proteção.
Turk alertou que apenas um punhado de homens detêm “poder quase ilimitado sobre a IA”, sem citar nomes. Entre as principais empresas de IA estão a Meta, a Anthropic, a OpenAI e o Google .
“No mínimo, precisamos que os países que abrigam a IA e aqueles envolvidos em suas cadeias de suprimentos se unam em torno de limites acordados”, disse ele.
O conselho está reunido até 7 de outubro para discutir a guerra no Irã, o conflito civil no Sudão e uma série de outras crises. O governo do presidente dos Estados Unidos, Donald Trump, se retirou do conselho no ano passado, acusando-o de parcialidade anti-israelense.
Turk exigiu a responsabilização dos culpados pelas cerca de 23 mortes que, segundo ele, ocorreram sob custódia das autoridades de imigração dos EUA neste ano, e acrescentou que está preocupado com os planos de equipar os agentes com luvas de choque elétrico.
O Departamento de Segurança Interna dos EUA já havia afirmado que estava comprometido em garantir um ambiente “seguro, protegido e humano” nas instalações de detenção. Seu inspetor-geral está investigando as mortes ocorridas sob custódia desde outubro de 2021.
O Departamento de Estado dos EUA não respondeu imediatamente a um pedido de comentário nesta segunda-feira.
“Atores ocultos”
Turk condenou ainda a Rússia por seus ataques intensificados à Ucrânia e o Irã pelo número crescente de execuções.
Ele também expressou “horror” diante de relatos de que a Rússia teria utilizado drones totalmente autônomos na Ucrânia, supostamente matando três pessoas em agosto.
“Junto-me aos apelos pela proibição urgente de armas capazes de tirar vidas sem intervenção humana”, disse ele, referindo-se às negociações em Genebra. A Reuters não verificou essas notícias de forma independente. A missão diplomática da Rússia não respondeu imediatamente a um pedido de comentário.
Com mais de 60 guerras em todo o mundo envolvendo pelo menos um Estado – o maior número desde a Segunda Guerra Mundial -, Turk apresentou ideias sobre formas de promover a paz, comprometendo-se a um maior escrutínio das empresas e dos interesses econômicos que estão alimentando os conflitos.
“Não hesitaremos em expor os atores ocultos e exigir que prestem contas”, afirmou ele.
Ainda neste mês, o escritório de direitos humanos da ONU deve publicar uma lista de empresas que operam nos assentamentos israelenses na Cisjordânia, considerados ilegais pelo órgão global – uma acusação rejeitada por Israel.
