Em novembro de 2025, o The Independent, no Canadá, revelou que um relatório de saúde encomendado pelo governo provincial à Deloitte, no valor de US$ 1,6 milhão, continha referências acadêmicas inexistentes. Estudos inventados. Pesquisadores reais citados como autores de artigos que nunca escreveram. Quando o caso ganhou repercussão, inclusive na Fortune, a empresa revisou o documento. E substituiu as citações falsas por outras igualmente falsas.
Um mês antes, a mesma firma havia devolvido ao governo australiano A$ 440 mil por um problema semelhante. O ponto não é o erro. É a repetição. E, principalmente, o fato de que, na segunda vez, ninguém no processo de revisão percebeu que estava corrigindo alucinação com alucinação.
A pergunta relevante, portanto, não é “o que falhou?”. É outra: quem, dentro daquela organização, tinha autoridade para impedir que aquilo chegasse ao cliente? A resposta, pelos fatos, é simples: ninguém exerceu essa função.
A Deloitte não é uma exceção. É um retrato antecipado do que acontece quando organizações escalam o uso de IA antes de resolver uma questão estrutural: onde termina a automação e onde começa a responsabilidade humana. O problema não está onde a maioria procura.
Segundo a Salesforce, 47% dos profissionais admitem usar IA no trabalho sem aprovação formal. A McKinsey aponta que 59% das empresas ainda não têm diretrizes claras para esse uso.
Esses dois números, juntos, descrevem uma realidade desconfortável: a tecnologia já opera muito além do campo de visão da liderança. E há uma mudança mais profunda em curso. ChatGPT, Gemini e Copilot deixaram de ser apenas assistentes de produtividade. Desde 2025, evoluíram para sistemas agentivos capazes de acessar dados, interagir com múltiplas ferramentas e executar tarefas com autonomia crescente.
Na prática, isso significa que um colaborador que “usa IA para redigir” pode estar participando de um fluxo que produz entregas completas sem que ninguém tenha plena visibilidade sobre como elas foram construídas. O caso da Deloitte não é uma falha tecnológica. É uma falha de arquitetura organizacional diante de sistemas que já operam como agentes.
O que a regulação já exige antes mesmo da lei brasileira
Enquanto o marco legal da IA ainda tramita no Brasil, o AI Act europeu já entrou em fase de implementação. Desde agosto de 2025, obrigações para modelos de propósito geral estão em vigor. Em 2026, a aplicabilidade se amplia.
Na prática, isso significa que empresas com qualquer interface com o mercado europeu já precisam demonstrar algo que muitas ainda não sabem fazer: rastreabilidade, governança e clareza sobre o papel humano nas decisões mediadas por IA.
Nesse contexto, o episódio da Deloitte deixa de ser apenas um constrangimento reputacional. Ele antecipa exatamente o tipo de pergunta que reguladores e auditores começarão a fazer: onde estava o controle humano? Quem validou? Existe rastro? Quatro perguntas que a sua liderança já deveria ter respondido.
Se a sua empresa quer evitar não o erro em si, mas a ausência de quem possa contê-lo, há quatro perguntas que precisam sair do papel e entrar na prática:
1- Quem tem autoridade explícita para barrar uma entrega gerada por IA, e essa autoridade é reconhecida pelo time?
2- O que, na sua operação, não pode ser delegado a sistemas, não como princípio abstrato, mas como lista concreta?
3- Onde a IA já está sendo usada sem aprovação formal, e você tem abertura para descobrir isso?
4- Se amanhã uma entrega gerada com IA causar um erro relevante, o caminho de responsabilidade está claro na prática, não apenas nos slides?
Se alguma dessas perguntas ainda não tem resposta, é ali que começa o trabalho.
Segundo o Sebrae, 72% das empresas brasileiras ainda estão em estágio inicial de adoção de IA. O paradoxo é evidente: o desafio não é acesso à tecnologia. É a ausência de estrutura para responder por ela. Portanto, 2026 não é mais o ano de experimentar IA. É o ano de assumir responsabilidade sobre aquilo que já está em produção.
Porque, no fim, a pergunta não é se a sua empresa vai errar usando IA. É quem, quando isso acontecer, saberá exatamente onde assinar.
Iona Szkurnik é fundadora e CEO da Education Journey, plataforma de educação corporativa que usa Inteligência Artificial para uma experiência de aprendizagem personalizada. Com mestrado em Educação e Tecnologia pela Universidade de Stanford, Ionaintegrou o time de criação da primeira plataforma de educação online da universidade. Como executiva,Ionaatuou durante oito anos no mercado de SaaS de edtechs no Vale do Silício.Ionaé também cofundadora da Brazil at Silicon Valley, fellow da Fundação Lemann, mentora de mulheres e investidora-anjo.
Os artigos assinados são de responsabilidade exclusiva dos autores e não refletem, necessariamente, a opinião de Forbes Brasil e de seus editores.
