Leia também
“Embora a IA generativa possa desbloquear um enorme potencial criativo, também apresenta novos riscos, como permitir que os criadores divulguem informações falsas – intencionalmente ou não. Ser capaz de identificar conteúdo gerado por IA é fundamental para capacitar as pessoas com conhecimento de quando estão interagindo com a mídia gerada e para ajudar a prevenir a propagação de desinformação”, afirmou a empresa, em seu blog.
Como o Google vai identificar conteúdo de IA:
“O SynthID está sendo lançado para um número limitado de clientes que usam a ferramenta Imagen, um de nossos mais recentes modelos de texto para imagem que usa texto de entrada para criar imagens fotorrealistas”, diz a empresa.
Por que isso é importante?
Apesar de ainda estar disponível de forma restrita, o anúncio dessa ferramenta é emblemático e importante diante das discussões sobre produções feitas a partir de IA generativa. No dia 21 de julho, um grupo de empresas que atuam com IA direta ou indiretamente, entre elas o Google, anunciou esforço conjunto e um compromisso com a Casa Branca para identificar conteúdo feito através de IA.
Além da Alphabet, holding do Google, o grupo inclui Meta e a OpenAI, dona do ChatGPT. As empresas se comprometeram a testar minuciosamente os sistemas antes de lançá-los e compartilharem informações sobre como reduzir os riscos e investir em segurança digital.
- Ingredientes para um futuro impulsionado por Inteligência Artificial
- Acalme-se e pare de se preocupar – a IA é uma bênção, não uma maldição
- 5 profissões que serão criadas com a inteligência artificial
Existem algumas formas de testar este tipo de conteúdo: análise de linguagem, análise visual e análise de comportamento. A ferramenta anunciada pelo Google atua nas duas primeiras frentes. Além dessas tecnologias, Google, Meta, OpenAI e CIA também estão trabalhando em maneiras de rastrear e identificar os criadores de conteúdo criado por IA. Isso pode ajudar a responsabilizar os criadores desse conteúdo por suas ações.
Combate a fake news e desinformação
Em 30 de março, o MidJourney encerrou um período de testes gratuitos após a repercussão de uma foto do Papa criada em seus sistemas. Na ocasião, o pontífice aparecia vestindo uma blusa de grife. A imagem foi, inicialmente, identificada como real até mesmo por veículos de imprensa. Ainda que não tenha associado o fim dos testes com o ocorrido, a ferramenta afirmou que precisa aprimorar as formas de identificar o conteúdo que os usuários geram através de suas tecnologias.
O que é inteligência artificial generativa?
A inteligência artificial generativa é uma tecnologia que permite que um computador crie conteúdo, como texto, imagens, música ou até mesmo vídeos. Ao contrário da inteligência artificial convencional, que é programada para executar tarefas específicas, a IA generativa é capaz de criar algo novo e inesperado. Essa tecnologia é baseada em algoritmos de aprendizado de máquina que são treinados usando enormes conjuntos de dados. Por exemplo, um algoritmo de aprendizado de máquina pode ser treinado usando milhões de imagens de gatos, o que permite que ele crie suas próprias imagens de gatos.
Leia também:
- O que é inteligência artificial generativa?
- Como a inteligência artificial está desvendando os mistérios do universo
- Por que 2023 será o ano da inteligência artificial?
Apesar das possibilidades oferecidas pela IA generativa, há também preocupações éticas em torno do seu uso. Por exemplo, se um programa de IA generativo escreve uma notícia falsa que é indistinguível da realidade, isso pode ter consequências graves para a sociedade.