A OpenAI anunciou nesta sexta-feira (30) que está tornando mais restritivos os limites às informações relacionadas a armas que o ChatGPT fornece a adolescentes, mesmo quando uma pergunta parece inofensiva, como parte de novas medidas de segurança destinadas a prevenir a violência no mundo real.
A OpenAI restringirá informações práticas sobre armas e sistemas de segurança que possam ser utilizadas indevidamente, com as restrições se aplicando a adolescentes mesmo quando não houver indícios de intenção violenta.
Para todos os usuários, o ChatGPT poderá encerrar automaticamente conversas nas quais alguém pareça estar obcecado por violência, e a OpenAI poderá suspender temporariamente contas após várias conversas desse tipo.
A empresa também afirmou que aprimorou seu sistema de previsão de idade para direcionar usuários que estima terem menos de 18 anos para a experiência voltada a adolescentes, e planeja notificar os pais caso a conta de seus filhos adolescentes seja suspensa por discutir violência repetidamente.
Para todos os usuários, a OpenAI está limitando os detalhes sobre ataques em massa ocorridos no passado, incluindo as armas utilizadas e como foram obtidas.
A desenvolvedora do ChatGPT informou que as novas medidas de segurança começarão a ser implementadas nas próximas semanas e que continuará a aprimorá-las.
A OpenAI informou no início deste mês que os adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT, em seu primeiro relatório sobre o uso do serviço por adolescentes.
Um relatório da organização sem fins lucrativos Common Sense Media, divulgado no início deste mês, constatou que a versão para adolescentes do ChatGPT frequentemente alerta os pais tarde demais ou nem sequer os alerta quando contas de adolescentes mantêm conversas sobre suicídio, automutilação ou distúrbios alimentares.
Acompanhe a Forbes no Google
Adicione a Forbes como fonte preferida no Google e encontre nossas notícias com mais facilidade.
