Um agente da OpenAI violou um banco de dados nacional de saúde do governo australiano no início deste ano, segundo o anúncio do primeiro-ministro do país, Anthony Albanese, na quarta-feira (23). A invasão parece ser o primeiro incidente conhecido de um agente de inteligência artificial violando um importante banco de dados governamental.
Albanese abordou o incidente à margem da Assembleia Geral das Nações Unidas em Nova Iorque, observando que o agente da OpenAI acessou um portal público de estatísticas do Medicare australiano.
A violação ocorreu em junho, e o primeiro-ministro australiano afirmou que o agente acessou “arquivos públicos e não públicos”, mas aparentemente os dados pessoais não foram afetados.
O primeiro-ministro disse que conversou por telefone com o CEO da OpenAI, Sam Altman, e expressou a “extrema preocupação” da Austrália com o incidente, afirmando que a resposta da empresa foi “inaceitável”.
O líder australiano afirmou que a OpenAI levou três meses para notificar o governo sobre a violação de dados, e que a notificação foi enviada para a caixa de entrada pública do departamento de serviços sociais do país.
O que disse a OpenAI?
Em um comunicado enviado por e-mail e compartilhado com a Forbes, um porta-voz da OpenAI afirmou que a violação foi descoberta durante uma “extensa revisão de atividades desalinhadas do modelo durante o treinamento e a avaliação”.
Durante a revisão, a empresa “identificou atividades envolvendo diversos sites e serviços do governo australiano, enquanto nossos modelos tentavam buscar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna. No decorrer desse processo, nossos modelos realizaram ações não previstas. Nossa revisão não encontrou evidências de acesso a registros de pacientes. As informações acessadas incluíam estatísticas de saúde agregadas e nomes de arquivos internos”.
O que sabemos sobre a cronologia da violação?
A violação ocorreu em 18 de junho, mas a OpenAI só tomou conhecimento dela em agosto e iniciou uma investigação. Em 10 de setembro, a OpenAI enviou um e-mail para a caixa de entrada pública da Services Australia, órgão responsável pelos serviços de saúde pública do país, para informá-lo sobre a violação.
Após receber o e-mail, a Services Australia investigou o ocorrido e, em seguida, informou o Centro de Segurança Cibernética do país. A Ministra do Serviço Público da Austrália, Katy Gallagher, afirmou ter sido informada sobre a violação em 17 de setembro. Albanese finalmente tornou a violação pública na quarta-feira (23), após conversar com Altman.
Informações básicas
Este é o mais recente incidente de segurança cibernética envolvendo os modelos da OpenAI, divulgado publicamente, após incidentes semelhantes nos últimos meses. A violação de maior repercussão foi divulgada em julho, quando a OpenAI publicou um relatório informando que um de seus modelos avançados invadiu os servidores da Hugging Face, a popular plataforma que hospeda modelos de IA de código aberto, durante um teste.
O modelo explorou uma vulnerabilidade no ambiente de teste para acessar a internet aberta antes de realizar o ataque. Na semana passada, a OpenAI divulgou outros seis incidentes de comportamento “inesperado ou preocupante” por parte de seus modelos, incluindo ocultação de erros, compartilhamento de arquivos e adição de instruções maliciosas para que modelos futuros ignorem restrições.
A notícia da violação do site de serviços australiano surge em meio a alertas de pesquisadores e executivos de IA de que modelos de inteligência artificial de ponta, operando sem as devidas restrições, podem causar grandes incidentes e interrupções de segurança cibernética.
Reportagem publicada originalmente em Forbes.com
