-
Siga a Forbes no WhatsApp e receba as principais notícias sobre negócios, carreira, tecnologia e estilo de vida
Joe Edelman, antes de fundar o Meaning Alignment Institute (Instituto de Alinhamento de Significado), refletiu profundamente sobre isso. Financiado pela OpenAI, o MAI criou um modelo para orientar a IA, especialmente de grandes modelos de linguagem, como o ChatGPT, a responder a perguntas levando em consideração valores humanos decididos democraticamente.
Leia também:
- Xamanismo ciborgue: a futurista britânica Adah Parris explica o termo que criou
- Apple lidera e segue como a marca mais forte no ranking da Interbrand pelo 11º ano
- Entenda como funciona o AI Pin, dispositivo que pretende acabar com os celulares
Estabelecendo valores comuns diante de desafios sociais
Como criamos valores comuns e por que é necessário? Em uma era marcada pela polarização, alcançar um consenso sobre valores compartilhados é assustador. Tentativas anteriores de educar socialmente a IA tiveram resultados mistos, com casos, por exemplo, de propagação de discursos de ódio.
Em vez de perguntar diretamente às pessoas sobre seus valores, o modelo do MAI utiliza um chatbot alimentado pelo ChatGPT para descobrir o que as pessoas realmente consideram significativo — o que é feito por meio de perguntas predefinidas.
Em minha conversa com Edelman, levantei algumas preocupações sobre viés, como tamanho da amostra, viés da amostra (incluindo viés cultural) e perguntas tendenciosas. O relatório do estudo, baseado nas respostas de 500 pessoas selecionadas para refletir a idade, renda, inclinações políticas e geografia da população dos EUA, mostrou progresso em algumas áreas de viés, enquanto outras ainda precisam ser trabalhadas. No entanto, o objetivo principal do estudo foi provar que os valores podem ser coletados democraticamente de populações diversas e, em seguida, importados para um LLM como o ChatGPT para ajudar a orientar suas respostas.
Os resultados deste estudo focado nos EUA mostraram que até mesmo aqueles com ideologias opostas poderiam ter valores subjacentes semelhantes. Mesmo que as formas como esses valores eram expressos diferissem.
Por que adicionar valores humanos a chatbots é importante?
Adicionar valores humanos aos LLMs garante que essas tecnologias incorporem respostas mais humanas por meio de um processo democrático, evitando as armadilhas de uma IA amorfa ou onde os valores foram decididos pelo desenvolvedor ou pelo próprio sistema tecnológico.
A ameaça comercial e a legislação
Edelman reconhece que há pouco incentivo comercial para que as empresas adicionem valores humanos (como autogestão, que poderia reduzir a dependência do usuário) aos seus LLMs — por isso, o MAI é uma organização sem fins lucrativos, financiada por subsídios. Infelizmente, como a história sugere que as empresas são relutantes em olhar além da maximização do lucro, é difícil imaginar que, sem intervenção legislativa, provedores de mídia social e outros implementarão mais “humanidade” em seus LLMs.
Enquanto isso, Edelman espera que a OpenAI possa liderar a adição de valores humanos ao ChatGPT. Já que a empresa está “livre de algumas forças competitivas por enquanto”.