Inteligência artificial generativa: gerenciando riscos de segurança com uma perspectiva positiva

A inteligência artificial generativa (GenAI) representa um ponto de virada significativo para a segurança cibernética. A GenAI abrange sistemas que podem compreender, aprender e implementar conhecimento para uma ampla gama de tarefas, da mesma forma que um ser humano faria. A tecnologia também pode ser uma parceira importante na proteção de ambientes de TI, ao mesmo tempo que pode ser usada para criar novos vetores de ataque. Os riscos para a segurança da informação são elevados, levantando a questão sobre o que as organizações precisam fazer para desbloquear o seu valor de forma responsável.

Uma pesquisa feita pela Dell Technologies (Generative AI Pulse) revelou que 39% dos tomadores de decisão de TI de empresas nos Estados Unidos relataram alguma hesitação organizacional quando se trata da adoção de GenAI, com preocupações de segurança citadas como um dos principais fatores. Tal como acontece com qualquer tecnologia emergente, existem riscos que devemos gerir, garantindo que estas tecnologias reflitam os nossos valores enquanto seres humanos. Mas a GenAI também pode oferecer muito para nos ajudar a proteger os nossos ambientes.

Leia também:

• De menor aprendiz ao cargo mais estratégico de IA na IBM Brasil
• Exclusivo: Ronaldo fala sobre sua nova empresa de viagens corporativas, a Wayz
• GenZ na Black Friday 2023: consumo consciente e preferência por marcas de tecnologia são os destaques

À medida que as capacidades da GenAI se expandem, a segurança se torna uma questão prioritária. Os hackers podem usar a velocidade e a automação com que a GenAI funciona, descobrindo vulnerabilidades com mais rapidez, desenvolvendo malware em tempo real e criando melhores e-mails de phishing e falsificação digital. Os sistemas generativos exigem medidas de segurança adequados para evitar que se tornem alvo de ataques e possam reduzir as oportunidades de maiores fraudes e novas superfícies de ataque provocadas pelo aumento de deepfakes.

A proteção da GenAI começa com a implementação de uma infraestrutura baseada na confiança, iniciando no nível do dispositivo e abrangendo todo o trajeto até os dados e o usuário. O objetivo é ter medidas robustas de controle de acesso que evitem acesso prejudicial e potencial uso indevido do sistema. Para proteger os dados, é necessário implementar capacidades como classificação de dados, encriptação e armazenamento e transmissão de dados com segurança. O elemento humano também desempenha um papel crítico: auditorias regulares, meios para identificar quando o sistema não se comporta conforme esperado, e técnicas para mitigar preconceitos e orientações éticas são importantes para abordar estas preocupações.

Embora a indústria trabalhe para enfrentar os riscos da GenAI, a tecnologia promete tornar-se uma aliada na segurança cibernética, abrindo caminhos para ajudar a proteger melhor as organizações face às ameaças. À medida que a GenAI analisa grandes quantidades de dados de segurança de uma empresa, fazendo previsões e aprendendo continuamente, as equipes de segurança cibernética podem enfrentar melhor as ameaças. Por exemplo, detectando anomalias no tráfego de rede ou conteúdo de e-mail suspeito. A GenAI pode então prever ameaças futuras ou identificar vulnerabilidades, uma vez que aprende com incidentes passados e informações de inteligência sobre ameaças.

A automação pode transformar a forma como abordamos a segurança, especialmente nas áreas de prevenção e controle de detecção. Ao automatizar a detecção de ameaças, a GenAI reduz o tempo de descoberta e resposta às tentativas de ataque, mitigando danos potenciais. A automatização de tarefas rotineiras de segurança cibernética, como relatórios de incidentes ou esforços de compartilhamento de ameaças, permite que as equipes de segurança se concentrem em tarefas mais estratégicas. Os profissionais trabalham no que é mais importante com acesso mais rápido aos insights sobre os quais podem agir.

A criação de conteúdo pode não ser o primeiro recurso que vem à mente quando se pensa em GenAI e segurança cibernética, mas é uma capacidade relevante para o treinamento de conscientização em segurança. Ao usar GenAI para personalizar módulos de treinamento, os critérios de personalização podem basear-se nas funções dos usuários finais, nos comportamentos anteriores e nas ameaças comuns que eles podem enfrentar. Esse nível de especificidade na formação pode diminuir o erro humano, que é um fator chave em muitos incidentes de segurança.

Importante dizer que a GenAI é uma faca de dois gumes para a segurança cibernética. Por um lado, traz novos desafios que nos obrigam a repensar e evoluir as nossas estratégias de cibersegurança. Mas também promete melhor detecção e resposta a ameaças, capacidades preditivas e eficiência operacional.

Ao longo da história da humanidade, gerimos o risco da inovação ao mesmo tempo que avançamos no progresso humano. A chave reside em utilizar os seus benefícios e, ao mesmo tempo, abordar os riscos de forma proativa e vigilante. Recomendam-se medidas de segurança robustas, monitorização contínua e uma abordagem flexível e em constante evolução à privacidade e ética dos dados. À medida que mergulhamos na era da GenAI, a relação entre IA e segurança cibernética continuará a ser de evolução simbiótica.

Luis Gonçalves é presidente da Dell Technologies na América Latina.

Os artigos assinados são de responsabilidade exclusiva dos autores e não refletem, necessariamente, a opinião de Forbes Brasil e de seus editores.