Musk foi uma das inúmeras figuras da tecnologia a pedir que as empresas de IA parem de trabalhar.
LEIA MAIS: Por que 2023 será o ano da inteligência artificial?
Qualquer pausa deve ser “pública e verificável” e incluir todos os principais atores, disse a carta. O documento também aponta que os desenvolvimentos acelerados dos últimos meses ressaltam a necessidade de ação drástica com “laboratórios travados em uma corrida fora de controle” para desenvolver e implantar sistemas cada vez mais poderosos que ninguém – incluindo seus criadores – pode entender, prever ou controlar.
Os signatários incluem cientistas da computação conhecidos como Yoshua Bengio e Stuart Russell, pesquisadores acadêmicos de peso e indústrias como Oxford, Cambridge, Stanford, Caltech, Columbia, Google, Microsoft e Amazon, bem como proeminentes empreendedores de tecnologia como o cofundador do Skype, Jaan Tallinn, o cofundador do Pinterest, Evan Sharp , e o cofundador da Ripple, Chris Larsen.
LEIA MAIS: Além do hype: o que você realmente precisa saber sobre IA em 2023
Como as pessoas são convidadas a anexar seus próprios nomes à carta – que também inclui o autor Yuval Noah Harari e o político Andrew Yang – a lista deve ser tratada com certo ceticismo e o Verge relatou que o chefe da OpenAI, Sam Altman, aparentemente foi tratado como um piada.
No curto prazo, especialistas alertam que os sistemas de IA correm o risco de exacerbar o viés e a desigualdade existentes, promover a desinformação , interromper a política e a economia e podem ajudar os hackers. A longo prazo, alguns especialistas alertam que a IA pode representar um risco existencial para a humanidade e pode nos exterminar. Embora voltados para o futuro, eles argumentam que a perspectiva de IA superinteligente deve ser abordada antes de ser desenvolvida e garantir que os sistemas sejam seguros deve ser um fator chave do desenvolvimento hoje.
A carta aberta termina com uma nota positiva: “A humanidade pode desfrutar de um futuro próspero com a IA. Tendo conseguido criar poderosos sistemas de IA, agora podemos desfrutar de um ‘verão de IA’ no qual colhemos os frutos, projetamos esses sistemas para o claro benefício de todos e damos à sociedade uma chance de se adaptar. A sociedade fez uma pausa em outras tecnologias com efeitos potencialmente catastróficos na sociedade. Podemos fazer isso aqui. Vamos aproveitar um longo verão de IA, não correr despreparados para o outono.”
LEIA MAIS: A Inteligência Artificial será capaz de extinguir espécies?
Gates disse que as preocupações sociais em torno da IA devem ser trabalhadas entre os governos e o setor privado, impulsionando a tecnologia para garantir que ela seja usada para o bem. Sobre os problemas técnicos, Gates disse que o progresso recente não tornou alguns problemas “mais urgentes hoje do que antes” e os pesquisadores já estão trabalhando na correção de outros problemas técnicos urgentes e provavelmente terão sucesso dentro de alguns anos.
Ele disse que as questões em torno da superinteligência – uma IA que excede as capacidades humanas em geral e dividiu a comunidade de IA quanto a se é um risco genuíno ou irremediavelmente especulativo – são legítimas, mas também não estão mais próximas, dados os desenvolvimentos recentes. Tais preocupações “ficarão mais prementes com o tempo”, acrescentou Gates.
*Robert Hart é repórter sênior da equipe de notícias de última hora da Forbes, cobrindo saúde e ciência no escritório de Londres.