Caitlin Kalinowski, líder da equipe de hardware e engenharia robótica da OpenAI, afirmou no sábado que está deixando a empresa, escrevendo em uma publicação nas redes sociais que sua escolha “foi por princípio” depois que o CEO da OpenAI, Sam Altman, fechou um acordo com o Departamento de Defesa para o uso de sua tecnologia em operações militares.
Fatos Principais
Kalinowski, que foi contratada em 2024 vinda da Meta, disse no X que sua decisão não foi fácil: “A IA tem um papel importante na segurança nacional. Mas a vigilância de americanos sem supervisão judicial e a autonomia letal sem autorização humana são linhas que mereciam mais deliberação do que receberam.”
A decisão dela ocorre no momento em que a OpenAI afirmou nesta semana que sua tecnologia poderia apoiar trabalhos relacionados à defesa, incluindo cibersegurança, análise de inteligência e logística, áreas que os militares veem como aplicações críticas para a IA.
O acordo atraiu críticas de alguns funcionários da OpenAI e pesquisadores de IA, que alertam que a expansão da inteligência artificial para operações militares aumenta os riscos em torno da vigilância e de armas autônomas.
A parceria entre a OpenAI e o Departamento de Defesa acontece após o governo Trump se afastar da colaboração com a Anthropic, a qual o Pentágono rotulou formalmente como um risco para a cadeia de suprimentos.
Kalinowski disse no X que seu problema com o anúncio da OpenAI foi o fato de ter sido apressado, escrevendo que foi feito “sem as salvaguardas definidas”.
“Acreditamos que nosso acordo com o Pentágono cria um caminho viável para usos responsáveis da IA na segurança nacional, ao mesmo tempo em que deixa claras nossas linhas vermelhas: nada de vigilância doméstica e nada de armas autônomas”, afirmou a OpenAI em um comunicado ao Tech Crunch confirmando a renúncia de Kalinowski. “Reconhecemos que as pessoas têm opiniões fortes sobre esses temas e continuaremos a engajar em discussões com funcionários, governo, sociedade civil e comunidades ao redor do mundo.”
ChatGPT Enfrenta Reação Negativa
A controvérsia desencadeou uma forte reação entre os usuários do ChatGPT, que deletaram o popular aplicativo de IA em massa. O Tech Crunch informou que as desinstalações do app móvel do ChatGPT saltaram 295% no dia seguinte ao anúncio do acordo com o Departamento de Defesa. Em resposta, Altman disse que o acordo foi “apressado”, escrevendo que ele pareceu “oportunista e desleixado”.
O acordo foi alterado e agora estabelece que sistemas alimentados pelo ChatGPT “não devem ser usados intencionalmente para vigilância doméstica de indivíduos e cidadãos dos EUA”. As desinstalações do ChatGPT coincidiram com uma explosão de downloads do Claude, da Anthropic, que subiram cerca de 55% na comparação semana a semana até o dia 2 de março.
O impasse entre Anthropic e Pentágono
O Pentágono trabalhou inicialmente com a Anthropic, que deseja manter salvaguardas rigorosas sobre como seus modelos são usados pelo governo, como parte de um esforço para incorporar a IA no planejamento militar. No entanto, o governo Trump cancelou seu contrato com a Anthropic, já que a desenvolvedora do Claude não permitia que os militares usassem sua tecnologia de IA para alimentar armas autônomas ou vigilância em massa.
A mudança abriu caminho para a OpenAI aprofundar seu relacionamento com o Departamento de Defesa, após a empresa — junto com Anthropic, Google e xAI — fechar um contrato de US$ 200 milhões com o Pentágono em junho passado para construir ferramentas de IA para fins de segurança nacional.
A disputa entre o Pentágono e a Anthropic também se desenrolou dentro da própria empresa. Em fevereiro, Mrinank Sharma, líder de pesquisa de salvaguardas da Anthropic, anunciou que estava deixando a companhia, alertando em uma carta de demissão que o “mundo está em perigo” em meio aos riscos crescentes ligados à IA e aos desafios de segurança global.
Sharma disse que as equipes de segurança estavam sob pressão crescente à medida que as empresas corriam para implantar sistemas de IA poderosos. A saída somou-se a uma série de alertas de pesquisadores de IA que têm instado as empresas a desacelerar o desenvolvimento ou a impor regras mais rígidas sobre como a tecnologia é utilizada.
