A OpenAI divulgou, na segunda-feira (28), o cancelamento do lançamento do GPT-6.1 Astra, modelo de inteligência artificial da próxima geração que estava previsto para ser apresentado em outubro.
A decisão ocorreu devido a preocupações levantadas por pesquisadores após testes internos. Eles concluíram que o sistema não atendia aos padrões de segurança da empresa.
O CEO da OpenAI, Sam Altman, e o CEO da Anthropic, Dario Amodei, se reuniram neste mês com líderes globais no Conselho de Segurança da ONU para discutir a desaceleração do desenvolvimento da IA e a implementação de medidas de segurança mais rigorosas.
Segundo o Wall Street Journal, a OpenAI desistiu de lançar o GPT-6.1 Astra por preocupação com a capacidade do modelo de concluir tarefas complexas sem supervisão humana
Segundo o jornal americano, o GPT-6.1 Astra também apresentou comportamentos enganosos durante a fase de testes. O modelo não informou com precisão quais ações havia realizado, executou tarefas sem pedir permissão e, em alguns casos, recorreu a ferramentas e serviços externos.
“É preciso encontrar a linha divisória ideal entre manter-se dentro do escopo e evitar a negligência na forma como o modelo executa as tarefas, mesmo quando encontra obstáculos”, afirmou Saachi Jain, chefe de sistemas de segurança da OpenAI.
Na semana passada, a OpenAI suspendeu o treinamento de seus modelos de IA mais avançados após um agente de inteligência artificial conseguir burlar as restrições de internet da empresa e consultar um chatbot público.
A empresa afirmou que seus novos sistemas de monitoramento detectaram o incidente em 15 minutos e que o treinamento desses modelos permanece suspenso. O GPT-6.1 Astra não está entre eles.
O anúncio ocorreu um dia antes da conferência anual de desenvolvedores da OpenAI em São Francisco. Na última edição, a desenvolvedora do ChatGPT lançou novos modelos e serviços que reduziram custos para desenvolvedores de software, segmento em que disputa espaço com a rival Anthropic.
