O pesquisador de inteligência artificial Jacob Coxon anunciou, na terça-feira (8), que deixou seu cargo na Anthropic afirmando que as empresas norte-americanas de IA estão “brincando com nossas vidas” em uma corrida para construir sistemas que, no futuro, podem se tornar incontroláveis.
O britânico de 27 anos trabalhou nos últimos três anos no desenvolvimento de pesquisas relacionadas ao pré-treinamento de sistemas de IA, iniciando na OpenAI, criadora do ChatGPT, e, em seguida, na Anthropic, uma de suas principais rivais.
Em publicações na rede social X, Coxon afirmou que desenvolvedores de IA acreditam que essa tecnologia pode se tornar fatal. “Em breve, teremos sistemas sobre-humanos capazes de hackear qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais”, escreveu.
O Wall Street Journal destacou que diversos pesquisadores também deixaram a OpenAI e outras empresas citando preocupações semelhantes. A Anthropic construiu uma das maiores plataformas de IA, em parte, sob a justificativa de priorizar o desenvolvimento responsável da tecnologia e investir fortemente em segurança.
Apesar dos ataques à empresa, o diretor de segurança da Anthropic, Evan Hubinger, comentou a publicação de Coxon, concordando com o pesquisador: “Jacob está certo, nós realmente acreditamos que a IA pode exterminar todos os humanos!”.
Para exemplificar essa realidade, Hubinger estimou que o risco de extinção humana provocado pela IA pode ser maior que 10% na próxima década.
Além de Hubinger, o CEO da Anthropic,Dario Amodei,e outros líderes da empresa já alertaram repetidamente sobre os riscos de sistemas de IA potencialmente desonestos e defenderam maior cautela por parte da indústriano desenvolvimento da tecnologia.
A saída de Coxon ocorre em um momento em que a Anthropic se prepara para uma oferta pública inicial (IPO) que promete ser uma das maiores da história. O WSJ aponta que a empresabusca uma avaliação de até US$ 2 trilhões,ao destacar o desenvolvimento responsável da tecnologia para atrair investidores.
Amodei e os líderes da empresa afirmaram que já solicitaram ao governo do presidente Donald Trump e a outros executivos do setor um mecanismo de freio para acompanhar os avanços da inteligência artificial.
A Forbes entrou em contato com a Anthropic para comentar o caso, mas não recebeu uma resposta até a publicação desta matéria.
