Megan: é possível que robôs ofereçam riscos à vida humana?

Não é o primeiro e nem será o último filme a associar tecnologia a terror. A ficção científica tem um papel importante quando o tema é inovação e evolução tecnológica, no entanto, ela também é aficionada por colocar em contexto os eventuais desastres que possam surgir dessa relação. Os robôs, inclusive, estão no topo de prioridades. Na semana passada, estreou nos cinemas o filme Megan, que narra a história de uma boneca realista que funciona com base em inteligência artificial, mas se torna violenta.

Outros filmes, guardadas as devidas proporções e gêneros, já colocaram em perspectiva os eventuais riscos da tecnologia ao humano. Her, em 2013, o clássico 2001 Uma Odisseia no Espaço, de 1968, Ex-Machina, de 2014, Blade Runner, em 1982 e A.I Inteligência Artificial, em 2001. João Paulo Alqueres, da Iara Digital, e especialista em inteligência artificial, desta que “existe uma parte que não é nova que é relacionada a projeção que os humanos fazem de uma tecnologia que eles não conhecem, como já aconteceu com diversas outras coisas, e invariavelmente existe muita criatividade. Na prática, as máquinas não seriam capazes de tais comportamentos, porém é preciso entender que elas operam com uma realidade própria”, pontua.

Leia mais: Conheça o robô que dá piruetas e foi chamado de praticante de parkour

“Um exemplo interessante são as leis da robótica criadas por Issac Asimov, uma ficção literária que enumerou 3 princípios que deveriam guiar a conduta das máquinas inteligentes, no entanto, essas leis não refletem como as inteligências artificiais são de fato treinadas e controladas. Atualmente, as IA são projetadas para operar dentro de certos limites e para seguir instruções específicas dadas pelos seus desenvolvedores. Eles não possuem uma consciência ou capacidade de tomar decisões autônomas. Portanto, não podemos esperar que eles sejam cumpridos de forma semelhante às leis de Asimov. Isso diz respeito à ética e governança da IA, é um campo em constante evolução e desenvolvimento, e é necessário estabelecer regras e regulamentos para garantir que as IA sejam utilizadas de forma responsável e segura (por humanos)”, afirma João.

A mesma pergunta direcionada a João Paulo Alqueres também foi feita para o ChatGPT, sistema conversacional da Open AI que ontem (23) recebeu mais um investimento de US$ 10 bilhões da Microsoft. De acordo com o sistema de IA, os principais perigos que os robôs e os sistemas de IA podem apresentar são:

1. Invasões de privacidade

“Os robôs podem usar dados pessoais para criar perfis detalhados sobre nós, e desta forma acessar nossas informações mais íntimas, como histórico de compras, contatos e outros tipos de dados”

2. Ataques cibernéticos

“Os robôs podem ser usados para realizar ataques cibernéticos com o objetivo de roubar ou destruir informações e dados importantes. Tais ataques também podem ser usados para ocultar ou alterar o comportamento dos robôs, permitindo que realizem tarefas não autorizadas.”

3. Desumanização

“A implantação de robôs pode minar a conexão humana, pois os robôs não possuem empatia ou compaixão. Isso pode levar a incorrer em julgamentos errados ou discriminatórios em situações que necessitam de interação humana”

4. Riscos de segurança

“Os robôs também podem criar riscos de segurança, já que suas estruturas complexas podem se tornar vulneráveis a invasões de hackers. Além disso, os robôs podem ter comportamentos imprevisíveis que resultam em novas ameaças à segurança”