“Nós temos essa ideia de que as soluções tecnológicas serão superiores às outras. Isso é uma espécie de preconceito. Às vezes, a ferramenta certa é algo simples”, diz Meredith Broussard sobre tecnologia e inteligência artificial
Com toda a empolgação em torno da inteligência artificial (IA) e da transformação digital, assumimos muito facilmente que a resposta para os nossos problemas está na tecnologia. E, mais importante, estamos tão entusiasmados em nos voltarmos para ela – particularmente a IA – que negligenciamos os problemas sociais e humanos que ela pode causar. Este é o argumento de Meredith Broussard em seu último livro More Than a Glitch – Confronting Race, Gender and Ability Bias in Tech (“Mais do que uma falha – Confrontando preconceitos de raça, gênero e habilidade na tecnologia”, em tradução livre).
O livro é o último de uma série de investigações recentes sobre questões relacionadas ao preconceito e às implicações sociais mais amplas de nossa pressa em adotar a IA. Ele se junta a outras obras importantes, como Algoritmos de Destruição em Massa, de Cathy O’Neil, Algorithms of Oppression (“Algoritmos de Opressão, em tradução livre), de Safiya Noble, e A falta de inteligência artificial, de Broussard.
Leia também:
- O que é inteligência artificial generativa?
- Maior investidora de e-sports, Intel usa os games para acelerar inovação
- Por que 2023 será o ano da inteligência artificial?
Broussard recentemente foi ao meu podcast para discutir algumas das ideias que seu livro apresenta, bem como seus conselhos para líderes empresariais interessados em trabalhar com IA ou adotá-la em suas organizações. No cerne de seu argumento está o conceito de “tecnochauvinismo” – uma crença de que as soluções tecnológicas são sempre superiores aos métodos sociais ou outros que levam à mudança.
O que é tecnochauvinismo?
No livro, Broussard se refere ao exemplo da “escada rolante”, muitas vezes proposta por tecnólogos e engenheiros como uma inovação que poderia melhorar a vida de pessoas com deficiência. “Mas se você realmente perguntar a alguém que usa uma cadeira de rodas, eles geralmente dirão que não – ‘parece assustador’. ‘Não parece que vai funcionar.’ Eles dirão: ‘Prefiro uma rampa ou um elevador.’
“Então você percebe que existe uma solução realmente simples que funciona muito bem, e não precisamos adicionar muita tecnologia computacional extrema; podemos apenas construir uma rampa”.
“Portanto, até tornarmos o mundo realmente acessível, não vamos exagerar nas soluções.” A autora diz que esta situação – e muitas outras parecidas -, é um exemplo de “solução rápida” tecnológica para a mudança complexa, estrutural e social que é realmente necessária.
O contra-ataque à mentalidade tecnochauvinista, sugere Broussard, muitas vezes é simplesmente escolher a ferramenta certa para o trabalho – embora nem sempre essa será a tecnologia mais avançada ou o algoritmo de processamento de dados mais sofisticado.
Ela me disse: “Nós temos essa ideia de que, de alguma forma, as soluções tecnológicas serão superiores às outras. E isso é uma espécie de preconceito… às vezes, a ferramenta certa é algo simples, como um livro… não é inerentemente melhor que o outro”.
Matematicamente e socialmente justo
Outra ideia fascinante que Broussard explora é a diferença entre justiça matemática e justiça social. Quando usamos computadores para ajudar nos desafios em torno da igualdade e justiça, o que mais nos é apresentado é uma solução matemática.
Uma explicação simples: “Uma história que acho que ilustra esse conceito é sobre um biscoito. Quando eu era pequena, meu irmão e eu discutíamos sobre quem ficava com o último biscoito.” Peça a um computador para resolver esse problema simples, mas urgente, e haverá uma resposta óbvia – cada criança ganha meio biscoito.
“Mas no mundo real, quando você divide um biscoito ao meio, o que acontece é que você obtém uma metade grande e uma metade pequena. E então brigaríamos para ver quem fica com a metade maior.”
Leia também:
- Como funciona a IA que criou a nova “música final” dos Beatles
- Spotify remove milhares de músicas geradas por IA
- Inteligência Artificial pode fazer música – e daí?
A solução, ela sugere, está na negociação e no compromisso socialmente construídos.
“Então, se eu quisesse a metade maior, diria: ‘Você me dá e eu deixo você escolher o programa na TV que assistimos depois do jantar’. Decisões matematicamente justas e socialmente justas não são as mesmas… isso explica por que nos deparamos com problemas quando tentamos tomar decisões socialmente justas com computadores.”
O resultado disso é que devemos usar computadores para resolver problemas de orientação matemática e não depender muito deles quando se trata de desafios sociais.
IA e trabalhos humanos
Um princípio semelhante surge quando pensamos na questão de como os computadores serão usados para substituir trabalhadores humanos. Como escritora e jornalista, a própria profissão de Broussard é comumente considerada ameaçada pelo surgimento de aplicativos como o ChatGPT. Afinal, se eles podem gerar artigos, ensaios e até mesmo livros inteiros de forma rápida e fácil a partir de um simples prompt, quem precisa de autores?
No entanto, como qualquer pessoa que tentou usar o ChatGPT para escrever um livro ou mesmo um ensaio de qualquer nível de dificuldade rapidamente lhe dirá, essa ameaça foi um tanto exagerada.
Novas profissões em alta com a Inteligência Artificial
Getty ImagesEngenheiros de machine learning
Algumas profissões surgiram do zero, baseadas em cargos tradicionais em tecnologia que temos hoje. Para que os computadores consigam operar com base em dados e algoritmos, os engenheiros de machine learning (aprendizado de máquina), serão cruciais. Responsáveis pela programação, esses profissionais criam e treinam os modelos computacionais para execução de tarefas específicas.
picture alliance/Getty ImagesDesigners de prompts para IA
Os designers de prompts para IA são especializados na interação entre humanos e tecnologia. Os prompts são perguntas, instruções e demandas comuns, presentes na comunicação entre o usuário e sistemas como o ChatGPT, por exemplo. O objetivo dessa função é identificar as principais necessidades dos usuários ao interagir com uma inteligência artificial e criar a melhor conversa possível entre máquinas e seres humanos.
Ser automotivado
Uma das qualidades críticas de um empreendedor de sucesso é ser automotivado. Nesta linha de trabalho, ninguém mais pode responsabilizá-lo por suas tarefas além de você mesmo. Portanto, você deve entender claramente por que deseja se tornar um empreendedor e estar disposto a fazer o trabalho para atingir seus objetivos.
Quem consegue se manter motivado para trabalhar de forma consistente em meio a dúvidas, tentações e críticas alheias, tem mais chances de sucesso nos negócios do que quem só trabalha quando a motivação ou inspiração vem de fontes externas.
Especialista em ética da IA
Mas as mudanças provocadas pela IA não se restringem ao mercado de trabalho. A discussão sobre regulação, segurança e governança precisa acompanhar o desenvolvimento. Por trás de toda tecnologia, existe uma programação realizada por humanos, com ideais e julgamentos particulares. O profissional de ética em IA será responsável por fazer essa análise, bem como se certificar de que os processos lógicos e programados das máquinas não se sobreponham às questões humanitárias. Advogados vão passar a se especializar em questões jurídicas relacionadas à IA. “Em algum momento, as empresas irão precisar de governança ligada à IA para pensar esses limites”, diz a economista Dora Kaufman, professora da PUC-SP e pesquisadora dos impactos éticos da Inteligência Artificial.
- Anúncio publicitário
Curadoria de informações para IA
A curadoria para desenvolvimento da IA também está entre as funções importantes nesse mercado que se abre. É a pessoa que vai pesquisar, analisar e selecionar as informações que a IA terá acesso – inclusive tem implicações sobre discussões sobre ética, inclusão e diversidade nos resultados das buscas. “Esse profissional é responsável pela melhoria contínua das interações dos usuários com as interfaces conversacionais. O trabalho é feito por meio da análise das interações, mapeamento e criação de novos exemplos para o modelo de inteligência artificial, e do acompanhamento dos objetivos de negócio”, diz Bonora.
Engenheiros de machine learning
Algumas profissões surgiram do zero, baseadas em cargos tradicionais em tecnologia que temos hoje. Para que os computadores consigam operar com base em dados e algoritmos, os engenheiros de machine learning (aprendizado de máquina), serão cruciais. Responsáveis pela programação, esses profissionais criam e treinam os modelos computacionais para execução de tarefas específicas.
Embora inicialmente impressionante, o conteúdo gerado por IA ainda carece de muitas qualidades humanas essenciais – mais crucialmente, qualquer capacidade real de gerar novas ideias ou pensamentos verdadeiramente criativos. Isso ocorre porque tudo o que ele faz é, basicamente, regurgitar a linguagem e as ideias encontradas em seus dados de treinamento. “Se você é o tipo de pessoa em posição de substituir trabalhadores por IA generativa, terá um choque desagradável”, diz Broussard.
“A IA é medíocre. A escrita medíocre é absolutamente útil para muitas situações. Mas das coisas que você percebe rapidamente quando usa IA generativa por um tempo é que é meio chato… a mesma coisa repetida. Não é isso que você quer dar aos seus clientes”, completa.
Os pensamentos da autora ecoam minhas próprias crenças de que a IA não é um substituto para a criatividade – é uma ferramenta que permite aos humanos aprimorar suas próprias habilidades criativas e se organizar melhor nas maneiras como as colocam para trabalhar.
