Moojan Asghari: “A IA nos desafia a repensar nossa existência e sobrevivência, especialmente à medida que ela se torna mais integrada ao tecido de nossas vidas diárias e sistemas críticos.”
Uma inofensiva consulta ao ChatGPT gera impactos ambientais dignos de preocupação. Essas e outras reflexões foram feitas por Moojan Asghari, iraniana residente em Paris que fundou a Women in AI, entidade que se propõe a encontrar caminhos para ampliar a presença feminina em empresas, vagas e discussões relacionadas à inteligência artificial.
Moojan falou com a Forbes Brasil durante sua passagem pela Bahia, no IT Forum, no final de semana passado. Em sua apresentação, ela alertou que a IA pode ajudar a resolver os problemas gerados pela crise climática, mas sua demanda por energia em função do alto processamento de dados gera impactos diretos ao meio ambiente. Em um de seus slides, Moojan mostrou que para 200 milhões de consultas no ChatGPT são emitidas mais de 300 toneladas de CO2.
Leia também
Ela também destacou a necessidade de ampliar o acesso e educação para a IA e a importância da regulação responsável. “Iniciativas que tornam a educação e os recursos de IA acessíveis a grupos sub-representados podem ajudar a democratizar seu uso e influência. Precisamos de regulamentações que mandem conselhos diversos para empresas que desenvolvem IA, garantindo que diferentes perspectivas sejam trazidas à mesa. Além disso, promover modelos e exemplos de empresas que valorizam a diversidade pode ajudar a mudar a narrativa”, destacou.
Forbes Brasil – Dentre vários outros conceitos tecnológicos, a IA é um dos poucos que nos colocam para pensar sobre existência e sobrevivência. Você concorda que estamos diante de uma tecnologia que determina nosso futuro como espécie?
Moojan Asghari – A IA, de fato, nos desafia a repensar nossa existência e sobrevivência, especialmente à medida que ela se torna mais integrada ao tecido de nossas vidas diárias e sistemas críticos. Por um lado, tem o potencial de ser uma virada de jogo no enfrentamento de alguns dos desafios globais mais urgentes, como mudança climática, crises de saúde pública e distribuição de recursos. No entanto, com esse poder vêm questões éticas e existenciais significativas. Se desenvolvermos sistemas de IA que priorizam a eficiência sem considerar os impactos ambientais, poderíamos acabar exacerbando os mesmos problemas que estamos tentando resolver.
FB – Quais são os principais paradoxos ou armadilhas quando falamos do impacto da IA em nossa sociedade?
Moojan – Um dos paradoxos mais significativos da IA é seu duplo potencial de resolver e criar problemas. Estamos em um ponto de inflexão em que o desenvolvimento da IA coincide com a maior crise existencial da humanidade: a mudança climática. Por um lado, a IA poderia ser uma poderosa aliada na resolução, otimizando o uso de energia, prevendo os impactos da mudança climática e oferecendo soluções inovadoras que talvez nunca alcançássemos por conta própria. No entanto, ironicamente, a própria tecnologia que poderia nos salvar também está contribuindo para o problema. O desenvolvimento e a implantação da IA são extremamente intensivos em energia, com centros de dados e a criação de grandes modelos de linguagem consumindo vastas quantidades de eletricidade – às vezes excedendo o uso anual de países inteiros. Além disso, a IA pode amplificar os vieses humanos se não for cuidadosamente projetada, minando os esforços para promover a diversidade e a equidade.
“A ideia de que a IA pode nos tornar mais humanos é uma faca de dois gumes. Por um lado, sugere que a IA pode nos libertar de tarefas mundanas e repetitivas, permitindo-nos focar no que realmente nos define como humanos – criatividade, empatia e resolução de problemas complexos”
FB – Regulação é um ponto sensível sobre IA, quais os caminhos possíveis?
Moojan – Regulamentar a IA é de fato um dos desafios mais complexos que enfrentamos hoje, especialmente à medida que essa tecnologia evolui rapidamente. Estamos em uma situação em que a influência da IA atravessa fronteiras, enquanto os frameworks regulatórios permanecem em grande parte nacionais. Nos EUA, a abordagem tem sido focada na inovação, enquanto o ambiente regulatório da China é estritamente controlado e dirigido pelo estado. No entanto, o desafio está em equilibrar essas abordagens regulatórias globais para criar um padrão internacional coeso. Para corporações globais, isso apresenta um verdadeiro dilema. Como elas podem cumprir ambientes regulatórios vastamente diferentes enquanto continuam a inovar? As startups enfrentam um desafio ainda maior – como elas podem escalar e inovar sob o fardo de regulamentações potencialmente conflitantes? O caminho a seguir pode estar na criação de coalizões internacionais que se concentrem em estabelecer padrões globais, enquanto também permitem espaço para inovação.
FB – A IA, atualmente, está na mão de grandes corporações cujos líderes não expressam nenhuma diversidade, existe um caminho para democratizar o uso e o conceito?
Moojan – Infelizmente, é verdade que a IA está atualmente nas mãos de algumas grandes corporações, e muitas dessas organizações carecem de diversidade no nível de tomada de decisões. Em alguns casos, elas não possuem conselhos éticos ou, se os possuem, esses conselhos muitas vezes não são representativos do mundo diverso em que vivemos. Essa falta de diversidade não é apenas uma questão ética – é uma questão de negócios. Equipes diversas foram comprovadas como geradoras de mais receita e redução dos custos associados a produtos tendenciosos e danos à reputação. As empresas que não priorizam a diversidade eventualmente perceberão que estão perdendo benefícios significativos. Para garantir que a IA beneficie a todos, precisamos diversificar as vozes envolvidas em sua criação. Isso significa não apenas promover a diversidade de gênero e étnica, mas também incluir perspectivas de diferentes setores e regiões.
“O desenvolvimento e a implantação da IA são extremamente intensivos em energia, com centros de dados e a criação de grandes modelos de linguagem consumindo vastas quantidades de eletricidade – às vezes excedendo o uso anual de países inteiros. Além disso, a IA pode amplificar os vieses humanos se não for cuidadosamente projetada, minando os esforços para promover a diversidade e a equidade”
FB – Qual o cuidado que precisamos ter ao afirmar que a IA pode nos tornar mais humanos?
Moojan – A ideia de que a IA pode nos tornar mais humanos é uma faca de dois gumes. Por um lado, sugere que a IA pode nos libertar de tarefas mundanas e repetitivas, permitindo-nos focar no que realmente nos define como humanos – criatividade, empatia e resolução de problemas complexos. Nesse sentido, a IA tem o potencial de aprimorar nossa humanidade, dando-nos mais tempo para nos envolver nessas atividades inerentemente humanas. No entanto, há o risco de que essa ideia possa deslocar a responsabilidade de nós. Pode implicar que somos de alguma forma menos humanos agora. O verdadeiro desafio é reconhecer que primeiro precisamos definir nossos valores e ética, antes de podermos fazer isso para nossas tecnologias. Caso contrário, é fácil se perder à medida que desenvolvemos essas tecnologias.
