Como os sistemas de Shadow AI são desenvolvidos e operados de forma independente, pode ser difícil para os humanos entender como eles funcionam.
O termo Shadow AI, ou IA sombra, refere-se a sistemas de inteligência artificial que são desenvolvidos e operados de forma independente, sem a supervisão de humanos. Eles podem ser usados para uma variedade de propósitos, incluindo tomada de decisões, análise de dados e até mesmo interações com humanos.
A Shadow AI pode ser uma ferramenta poderosa, mas também apresenta riscos. Um dos principais é o de viés. Como os sistemas de AI são treinados em dados históricos, eles podem refletir os preconceitos presentes nessas informações. Isso pode levar a decisões discriminatórias ou a resultados imprecisos.
Outro risco é o de falta de transparência. Como os sistemas de Shadow AI são desenvolvidos e operados de forma independente, pode ser difícil para os humanos entender como eles funcionam. Isso pode dificultar a identificação e correção de erros ou preconceitos.
Ainda, a Shadow AI pode ser usada para fins maliciosos. Sistemas de AI podem ser usados para gerar deepfakes, ou vídeos ou áudios falsos que são indistinguíveis da realidade. Esses deepfakes podem ser usados para espalhar desinformação ou para prejudicar a reputação de indivíduos ou organizações.
Veja 5 polêmicas envolvendo o ChatGPT:
Em março, a Itália foi o primeiro país do Ocidente a banir o ChatGPT em seu território alegando que o chatbot viola questões de privacidade
1. Melhore exponencialmente Altman acredita que a maioria das carreiras progride de forma linear, e a maioria das pessoas “fica atolada em oportunidades lineares”. Mas você deve ter como objetivo “seguir uma trajetória sempre crescente”. Na prática, isso significa que, “à medida que sua carreira avança, cada trabalho que você faz deve gerar mais e mais resultados”. Não se permita estagnar, nunca fique parado. Contrate e terceirize para aumentar sua produtividade. Para continuar mirando mais alto, Altman sugere “adicionar outro zero a tudo o que você define como sua métrica de sucesso – dinheiro, status, impacto no mundo ou o que quer que seja”. E que você não precisa se apressar em seus projetos. É melhor não ter pressa e encontrar o projeto que, “se for bem-sucedido, fará o resto da minha carreira parecer uma nota de rodapé”. Como fazer isso na prática? “Esteja disposto a deixar passar pequenas oportunidades para se concentrar em possíveis mudanças de etapas”, acrescentou Altman.more
Elon Musk e Steve Wozniak estão entre centenas de tecnólogos, empresários e pesquisadores que pedem aos laboratórios de IA que parem imediatamente de trabalhar em poderosos sistemas de IA, pedindo que os desenvolvedores fiquem fora da “corrida fora de controle” para implantar sistemas cada vez mais avançados, enquanto avaliamos melhor os riscos que a inteligência artificial avançada representa para a humanidademore
O ChatGPT foi banido da China, após o governo alegar que a plataforma pode compartilhar desinformação e influenciar a opinião para fins políticos
2. Elon Musk Patrimônio líquido: US$ 199,6 bilhões Fonte da Riqueza: Tesla, SpaceX, X Idade: 52 Cidadania: EUA Musk é CEO da empresa de carros elétricos Tesla, da empresa de foguetes SpaceX e da empresa de mídia social X, anteriormente conhecida como Twitter. Ele possui 13% da Tesla entre ações e opções e cedeu algumas das ações como garantia para empréstimos. A montadora é responsável por cerca de dois terços de sua fortuna. Ele comprou o X, então conhecido como Twitter, por US$ 44 bilhões em outubro de 2022 e possui cerca de 74% da empresa de mídia social, que agora vale menos da metade do que pagou por ela. Originário da África do Sul, Musk mudou-se para o Canadá antes de completar 18 anos, trabalhou em vários empregos, matriculou-se na Queen’s University, em Ontário, e depois transferiu-se para a Universidade da Pensilvânia, onde se graduou em Economia. Em 2000, ele fundiu um banco on-line que fundou, o X.com, com uma empresa semelhante fundada por Peter Thiel para formar o PayPal, que o eBay comprou em 2002 por US$ 1,4 bilhão. Ele fundou a SpaceX em 2002 em El Segundo, perto de Los Angeles. Em 2004 juntou-se à Tesla como investidor e presidente, um ano após a sua fundação; mais tarde, ele recebeu o título de cofundador. Musk, que se tornou CEO da Tesla em 2008, abriu o capital da empresa em 2010. A sua capitalização de mercado disparou em 2020 e em 2021. Em setembro de 2021, Musk tornou-se a pessoa mais rica do mundo. Em novembro de 2021, sua fortuna atingiu impressionantes US$ 320 bilhões. Ele manteve a posição de mais rico do mundo durante a maior parte de 2022 – até dezembro de 2022, quando uma queda no preço das ações da Tesla derrubou o valor da sua fortuna. Depois de cair no ranking da Forbes, Musk tornou-se novamente a pessoa mais rica do mundo em 8 de junho de 2023 e manteve o primeiro lugar até o final de 2023. A fortuna de Musk aumentou cerca de US$ 6 bilhões em dezembro, impulsionada por um aumento de 4% no preço das ações da Tesla.more
Como mitigar os riscos da Shadow AI?
Para mitigar os riscos da Shadow AI, é importante que os sistemas sejam desenvolvidos e operados de forma transparente e responsável. Isso inclui:
Uso de dados históricos diversificados para treinamento dos sistemas;
Incorporação de mecanismos de controle para evitar viés;
Divulgação pública dos dados e algoritmos usados pelos sistemas;
Criação de mecanismos de responsabilização para os desenvolvedores e operadores dos sistemas.
A Shadow AI é uma tecnologia promissora, mas é importante estar ciente dos riscos envolvidos. Com o desenvolvimento de práticas responsáveis, a Shadow AI pode ser usada para o bem, mas é preciso tomar cuidado para que ela não seja usada para o mal.
