96% das pessoas consideram que a IA deve ser ética e responsável

Inegavelmente, o uso ético e responsável da tecnologia equivale a um futuro positivo e sustentável para as massas. Com a tecnologia alimentada por IA desempenhando um papel substancial em nossas vidas diárias, tornou-se indispensável considerar seu impacto na sociedade, no meio ambiente e nas próximas gerações.

Leia também:

• Como o Brasil tornou-se estratégico para a cibersegurança da Accenture
• Conexão de idosos à internet cresce 97%; educação é uma das prioridades
• Brasil já é o 5º país com mais usuários de internet no mundo

De acordo com uma pesquisa recente da Prosper Insights & Analytics , 26,8% dos adultos de 18 anos ou mais nos EUA ainda precisam tomar medidas em relação à sua privacidade digital. Da mesma forma, 21,1%, 23,1% e 28% da população da geração Z, geração do milênio e geração X precisam fortalecer sua confidencialidade online.

Garantir que tecnologias avançadas sejam desenvolvidas, utilizadas e adequadamente mantidas exige um esforço colaborativo de indivíduos, empresas e governos. Ele envolve a conscientização dos riscos e vantagens potenciais de tecnologias sofisticadas, estabelecendo transparência, justiça e responsabilidade, ao mesmo tempo em que prioriza o bem-estar da sociedade.

Recentemente, tive a oportunidade de falar com Linh Ho, o CMO da Zelros, uma empresa de insurtech que utiliza IA para melhorar o setor de seguros. Leia a entrevista completa aqui para saber mais sobre a importância do uso ético da IA.

Gary Drenik: Conte-me como a tecnologia e a IA estão sendo usadas pelo setor de seguros.

Linh Ho: A indústria de seguros testemunhou mudanças revolucionárias nos últimos anos. A Inteligência Artificial (IA) cimentou o caminho para melhorias adicionais, como maior eficiência, experiência superior do cliente e eficiência de custos. Simplificando, mais inteligente, mais fácil e mais barato.

• Utilidade da IA ​​no setor de seguros: Atualmente, uma abundância de aplicações de IA é implantada no setor de seguros, desde distribuições, processamento de sinistros até subscrição. Além disso, a IA pode auxiliar as seguradoras na avaliação de riscos com maior precisão, avaliando quantidades consideráveis ​​de dados, como pontuações de crédito, dados históricos de clientes, dados de terceiros e terceiros. Eventualmente, permite que as seguradoras ofereçam cobertura sob medida para os clientes, ao mesmo tempo em que precificam as apólices de maneira mais razoável. As tecnologias apoiadas por IA podem detectar e prevenir fraudes examinando padrões de dados e identificando atividades suspeitas. Isso ajudou as seguradoras a economizar dinheiro ao condensar a intensidade dos sinistros enganosos que costumam pagar.
• Importância do software de validação de sinistros: uma seguradora líder nos EUA implantou um software intuitivo de validação de sinistros alimentado por IA e automação robótica de processos (RPA). Sua principal competência era avaliar e validar sinistros para produzir relatórios de sinistros verdadeiros. Como resultado, uma melhoria de cerca de 99,99% foi imbuída na precisão reivindicada, enquanto a eficiência operacional e a experiência do cliente foram enriquecidas em até 60% e 95%, respectivamente.
• O maior desafio da implementação da IA: a parte mais assustadora é que apenas 1,33% das seguradoras capitalizaram a IA, de acordo com a Deloitte. Isso implica que uma grande parte das seguradoras ainda precisa aproveitar o potencial da IA ​​para simplificar seus processos e personalização de serviços. De fato, há uma maior necessidade de adaptação do setor de seguros ao cenário dinâmico dos avanços tecnológicos, o que é crítico no século XXI.

Drenik: Como podemos saber se esta tecnologia está sendo usada de forma responsável e ética?

Ho: A IA se espalhou, pois mais de 56% das empresas a adotaram em pelo menos um de seus processos de negócios em 2021. Isso é mais relevante para os países emergentes, pois a implementação da IA ​​aumentou 6% em comparação com 2020. De setores focados em aquisição de talentos, otimização de serviços, captura de dados biométricos em aplicações médicas, para finanças, judicial e vários outros setores.

A definição de padrões de IA é fundamental para garantir que os processos de gerenciamento relativos à segurança cibernética, sustentabilidade ambiental, garantia de qualidade e outros fatores permaneçam consistentes, independentemente das situações de mudança.

Esses padrões definem a infraestrutura institucional necessária para construir e desenvolver tecnologias mais sofisticadas e fornecem os protocolos de segurança para fazer o mesmo de maneira regulamentada. Os padrões e a governança da IA ​​visam erradicar as práticas injustas e os preconceitos associados ao uso preconceituoso de tecnologias. Para evitar práticas antiéticas nos Estados Unidos, o Escritório de Política de Ciência e Tecnologia da Casa Branca escolheu cinco princípios para criar e implementar essas ferramentas de IA para proteger o público na era da IA.

Zelros foi criado com objetivos semelhantes alguns anos antes deste anúncio ser feito. Projetado para ajudar as seguradoras e complementar seus objetivos de ajudar e proteger os segurados de soluções que possam prejudicá-los. Com a introdução desta última seção, reguladores, auditores, diretores de governança e muitas outras autoridades podem avaliar o desempenho de qualquer modelo baseado em IA projetado em subpopulações complexas. Esse avanço ampliou as possibilidades de identificar ameaças ocultas, até agora desconhecidas, e potenciais práticas e comportamentos injustos.

Drenik: Como é o uso antiético de IA e tecnologia?

Ho: Uma das preocupações éticas mais subjacentes com a IA é o viés não intencional. Isso acontece quando os sistemas de IA são projetados principalmente de forma não intencional, de uma forma que aprende com dados tendenciosos ou desenvolvidos com suposições irracionais/subjetivas. Isso pode fazer com que o sistema de IA tome decisões discriminatórias e injustas que afetam negativamente grupos específicos da sociedade.

Os preconceitos têm o potencial de perverter as desigualdades sociais e induzidas por gênero há muito existentes e apoiar a discriminação, especificamente contra comunidades marginalizadas.

Drenik: Você pode me esclarecer sobre os benefícios do uso de tecnologia ética, segura e responsável em seguros?

Ho: Apesar de o seguro saúde ser de importância imensurável, uma pesquisa da Zelros mostrou que 33% das pessoas são privadas de uma apólice de seguro saúde operacional. Além disso, 48,8% das pessoas têm uma apólice de seguro ou nada.

O fato mais alarmante é que 66,9%, 53% e 52,4% da população com mais de 18 anos, incluindo Gen-Z e Millennials, respectivamente, não estão inclinados a comprar ou mudar para qualquer tipo de seguro. Além disso, 67,9% dos indivíduos da Geração X e 83,6% dos Boomers também têm uma mentalidade semelhante. A principal razão por trás disso foi o aumento dos custos de compra de seguros.

O uso de tecnologia ética, segura e responsável em seguros pode melhorar a experiência do cliente, reduzir o risco de viés, levando a aprovações de apólices mais rápidas e precisas que ajudam a garantir que a apólice não seja superprotegida ou subprotegida.

Drenik: Como será o futuro do uso ético, seguro e responsável da tecnologia com mais regulamentação a caminho?

Ho: Com mais regulamentações e intervenção humana, as empresas podem garantir que seus sistemas de IA sejam transparentes, explicáveis ​​e responsáveis ​​e não perpetuem preconceitos.

As organizações precisarão avançar e priorizar programas de IA responsável e ética antes que algo cause danos à reputação. Também é apenas uma boa prática. Os programas podem ser projetados para monitoramento contínuo e retreinamento do algoritmo, caso haja desvios ou padrões emergentes que precisem de atenção especial.

Drenik: Obrigado, Linh, por suas percepções sobre o que está acontecendo com o uso ético e responsável da tecnologia.

*Gary Drenik é escritor e aborda insights e análises centradas no consumidor que fornecem aos executivos as soluções necessárias para conduzir a estratégia.

(traduzido por Andressa Barbosa)