A consultoria Accenture divulgou recentemente que havia imposto um limite de US$ 29 ao uso do Claude por funcionários. Segundo um porta-voz da empresa, a medida faz parte da modelagem financeira da empresa, e não de um limite rígido.
O valor de US$ 29 surge em meio a questionamentos sobre os investimentos em IA: qual o retorno, chamado ROI, para a empresa e para o profissional? Qual o ganho por cada dólar gasto? E qual poder computacional necessário?
Como um usuário ávido e frequente de IA, conheço muito bem os desafios de manter os custos de computação baixos enquanto realizo pesquisas, estratégias e trabalhos que exigem muita programação.
É fácil ultrapassar os orçamentos em poucos dias após definir um novo limite. Esse foi exatamente o problema que a Uber enfrentou quando seus engenheiros consumiram todo o orçamento anual do Claude em poucos meses.
Mas uma coisa que aprendi rapidamente para proteger minha renda e a sustentabilidade do meu negócio é me perguntar: “Quais tarefas merecem o uso de IA de alta qualidade?” Em vez de encarar a IA como um recurso ilimitado e sem fim, eu a vejo como algo que deve ser conservado, e faço a pergunta: “Como posso alocar a tarefa certa para a IA certa?”
Enquanto as empresas lidam com orçamentos crescentes para IA e computação, esta pode ser, de fato, a habilidade e o teste decisivo que determina o quão qualificado e maduro você é na adoção e implementação de IA em seus fluxos de trabalho.
Qual IA usar?
Na semana passada, fui convidado pela Multiverse para a conferência Workforce 2030 de Euan Blair, e ele fez uma pergunta à plateia: “Levantem a mão se vocês estão vendo retorno sobre o investimento em IA.”
Dos aproximadamente 400 líderes presentes na sala, representando milhões de trabalhadores do Reino Unido em diversos setores, apenas cerca de uma dúzia levantou a mão. Chocante? Talvez.
Mas isso já acontece há anos. O MIT descobriu que cerca de 95% dos projetos-piloto de IA de primeira geração falham. E isso se deve a tantos motivos que não tenho tempo de explorar aqui, mas um deles certamente inclui a escolha da IA certa para a capacidade certa.
Cada LLM tem seus pontos fortes e fracos. Não existe um perfeito para todos, e mesmo que você tenha o seu favorito, na hora de trabalhar, você pode precisar deixar de lado suas preferências e conforto pessoais em favor de oferecer o melhor resultado para a tarefa ou fluxo de trabalho específico em que você está envolvido.
Independentemente do modelo ou da robustez do sistema que você utilize, um teste de decisão simples pode ajudá-lo a descobrir rapidamente onde vale a pena investir em IA de alta qualidade:
- A tarefa é complexa o suficiente para exigir uma visão contextual mais ampla e um raciocínio e tomada de decisão mais aprofundados?
- Para onde está indo a produção e qual é o risco?
- Qual é o risco associado?
- Por exemplo, é apenas para uso interno ou também para clientes?
- Uma ferramenta pré-aprovada de menor custo pode fazer o mesmo trabalho, ou até melhor?
- A tarefa é de alto risco, exigindo julgamento criterioso e revisão humana?
- Quanto tempo é economizado?
- A qualidade da produção melhora por tarefa?
- Qual foi o volume de receita ou valor para o cliente gerado com um LLM em comparação com o outro?
Ter opções pré-aprovadas também pode ser útil caso você se depare com um limite de gastos no trabalho, ou se você e sua equipe forem obrigados a continuar trabalhando normalmente enquanto seu provedor de serviços de gestão de bibliotecas preferido estiver indisponível ou apresentando alguma instabilidade.
Quando o usar Claude?
Reserve uma ferramenta de IA premium como o Claude para casos em que um contexto mais amplo e profundidade técnica justifiquem o custo adicional. Aqui estão alguns exemplos de situações em que o sistema da Anthropic pode ser reservado para trabalhos de alto contexto, alto valor e alto impacto:
- Codificação complexa, depuração e análise técnica;
- Analisar e sintetizar grandes arquivos PDF, planilhas e conjuntos de dados;
- Modelagem de desempenho empresarial/financeira para stakeholders internos e externos;
- Claude Projects, para trabalhos contínuos e de contexto profundo.
Quando usar o ChatGPT?
Aqui estão apenas algumas das maneiras pelas quais considero o ChatGPT útil no meu trabalho como fundador e jornalista:
- Utilizando plugins conectados para pesquisa e fluxos de trabalho mais fáceis (por exemplo, usando meu plugin ChatGPT para Outlook para encontrar facilmente conversas, ações de acompanhamento e reuniões agendadas com contatos de RP, em vez da tarefa mais tediosa de usar o Outlook diretamente).
- Para brainstorming, formatação e outras tarefas administrativas de baixo risco.
- Para criar planilhas, agendamentos e ferramentas de rastreamento que se conectem em todo o meu trabalho.
Em vez de escolher uma ferramenta com base na preferência pessoal, decida qual produz o resultado de negócios mais confiável, de alta qualidade e alta segurança para a tarefa em questão, relevante para sua função.
Faça testes por algumas semanas para ver qual LLM ou IA oferece o melhor custo-benefício.
Em seguida, utilize essa inteligência para criar um mapa de onde o julgamento humano entra em ação, em que a IA é utilizada e qual modelo prevalece com base nas tarefas do seu fluxo de trabalho.
Dessa forma, você já terá um plano otimizado em termos de custos para adotar a tecnologia e gerenciar seu uso de forma eficiente dentro da sua organização.
É assim que a IA se torna um investimento valioso com retorno real sobre o investimento (ROI), em vez de uma despesa comercial descontrolada.
Reportagem publicada originalmente em Forbes.com
