Executivos da OpenAI, da Anthropic e da Hugging Face farão uma apresentação ao Conselho de Segurança da ONU nesta quarta-feira, em meio a alertas de que tecnologias de IA cada vez mais poderosas poderiam, em breve, aprimorar-se sozinhas, escapar ao controle humano e ameaçar a segurança internacional.
O presidente-executivo da OpenAI, Sam Altman, o presidente-executivo da Anthropic, Dario Amodei, e o cofundador da Hugging Face, Clément Delangue, devem apresentar um relatório ao conselho de 15 membros durante a Assembleia Geral anual, que reúne líderes mundiais nas Nações Unidas.
Altman planeja instar os líderes mundiais a adotarem parâmetros de referência para medir as capacidades da IA e avaliar as medidas de segurança que as empresas implementam à medida que desenvolvem a tecnologia, disse um executivo da OpenAI a repórteres na terça-feira.
Os membros do conselho, incluindo os principais rivais em IA — os Estados Unidos e a China –, também devem se manifestar. O ministro das Relações Exteriores da França, Jean-Noël Barrot, presidirá a reunião.
Um diplomata europeu, falando sob condição de anonimato, disse que o principal objetivo da reunião é destacar os riscos práticos de a IA perder o controle de maneiras que afetem a segurança internacional e a segurança de cada país.
“Essas são questões que se enquadram perfeitamente no mandato do Conselho de Segurança”, disse o diplomata. “A questão central é se um dia poderemos enfrentar uma situação em que algoritmos interagindo entre si desencadeiem uma guerra. Esse é realmente o cerne da questão.”
Antes de uma reunião entre o presidente dos EUA, Donald Trump, e o líder chinês Xi Jinping, em Washington, na quinta-feira, os EUA e a China discutiram a criação de um sistema de notificação para objetivos e ameaças comuns que abrangeria incidentes relacionados à IA que atinjam o nível de segurança nacional.
