A startup, apoiada pela Microsoft, disse que trabalhou para mitigar preconceitos políticos e outras questões, mas também quer acomodar pontos de vista mais diversos.
“Isso significa permitir respostas do sistema com as quais outras pessoas (inclusive nós) podem discordar fortemente”, afirmou a companhia, que acredita que a oferta de personalização é o caminho a seguir. Ainda assim, “sempre haverá alguns limites no comportamento do sistema”, afirmou a OpenAI.
Acompanhe em primeira mão o conteúdo do Forbes no Telegram
O anúncio da startup chega na mesma semana em que alguns meios de comunicação apontaram que as respostas do novo mecanismo de busca Bing, da Microsoft, desenvolvido pela OpenAI, são potencialmente perigosas e que a tecnologia pode não estar pronta para o uso generalizado do público.
A OpenAI disse que o ChatGPT é treinado primeiro em grandes conjuntos de texto disponíveis na Internet. Como uma segunda etapa, humanos revisam um conjunto de dados menor e o aplicativo recebe orientações sobre o que fazer em diferentes situações.
Se questionado sobre um tema polêmico, os revisores devem permitir que o ChatGPT responda à pergunta, mas se oferecer para descrever pontos de vista de pessoas e movimentos distintos, em vez de tentar “ter o ponto de vista correto sobre esses temas complexos”, explicou a empresa.