Sinais de shadow AI: 9 que aparecem antes do incidente

O uso escondido de IA dá sinal na operação muito antes de virar problema, e quase sempre por coisas que a liderança já tem à vista. Este artigo lista os nove sinais que eu mais vejo, o que cada um costuma indicar, o falso positivo de cada um e o que fazer na mesma semana em que ele aparece.

Categoria: Estratégia

Por ·

Resposta rápida: Shadow AI aparece na operação bem antes de virar incidente, e quase sempre por sinais que a liderança já tem à vista. Os nove que eu mais encontro: um prazo que encolheu sem que ninguém tenha mudado o processo, o texto do time que ficou uniforme de uma semana para a outra, a dúvida que parou de circular entre as pessoas, reembolsos pequenos e recorrentes de assinatura, pedidos no helpdesk para liberar um site ou instalar uma extensão, documento com formatação que não é a do template da casa, tráfego de rede para domínios de IA fora de qualquer padrão, um assistente feito com o nome da empresa que ninguém aprovou, e um número dito ao cliente que não existe em sistema nenhum. Os oito primeiros são detecção e dão tempo de agir. O nono já é incidente, e nele a conversa muda de assunto.

Toda vez que eu entro numa empresa e pergunto quem usa IA por ali, sobem umas quatro mãos. Daí eu faço a segunda pergunta, que é se alguém já colou um pedaço de e-mail de cliente numa ferramenta de IA para reescrever mais rápido, e a sala inteira olha para o chão. As quatro mãos viram vinte, e a diferença entre os dois números é exatamente o tamanho do que a liderança não está enxergando.

Esse espaço entre o que se declara e o que se faz tem nome, e eu já expliquei o conceito com calma em o que é shadow AI. Aqui eu quero tratar da parte anterior, que costuma ser a mais útil para quem lidera: como você percebe o uso escondido sem depender de confissão, sem contratar auditoria e sem instalar nada no computador de ninguém.

Escrevo isso com uma posição declarada. Eu não acho que o uso escondido seja um problema de caráter do time. Na esmagadora maioria das operações que eu acompanhei, a pessoa escondeu porque ninguém tinha dito o que era permitido, e ela tinha uma entrega para o fim do dia.

Os nove sinais agrupados em quatro estágios, comportamento, sistemas, uso já organizado e incidente, do mais cedo ao tarde demais.

O critério que eu usei para escolher estes nove

Um sinal só entrou nesta lista se cumpre três condições. A primeira é que você consiga observá-lo com o que já existe na empresa, sem comprar ferramenta nova e sem projeto de descoberta. A segunda é que ele não exija leitura de mensagem privada nem monitoramento de tecla digitada, porque esse tipo de vigilância entrega um dado morto: as pessoas param de usar no computador da empresa e passam a usar no celular, e aí você perdeu a informação junto com a confiança. A terceira é que o sinal tenha um falso positivo conhecido, que eu declaro item a item, já que sinal sem contraditório vira acusação.

A ordem da figura tem lógica. Os primeiros aparecem em semanas, no comportamento que qualquer gestor percebe sem sair da própria mesa. Os do meio aparecem em sistemas que a empresa já opera, como reembolso, helpdesk e rede. Os últimos aparecem quando o uso escondido já se organizou, e o nono aparece quando ele chegou ao cliente.

Ficou de fora tudo que depende de pegar alguém. Nada de varredura de histórico de navegação, nada de pedir print de conversa, nada de reunião surpresa. Além do problema óbvio de confiança, esse caminho é ineficiente: ele custa caro, demora, e no fim entrega uma lista de nomes quando o que você precisa é de uma lista de processos que estão sendo feitos por fora.

1. Um prazo encolheu e ninguém mudou o processo

O sinal mais barato de todos está no seu próprio calendário. Uma entrega que levava três dias começa a chegar em quatro horas. Um relatório que sempre atrasava passa a vir antes do combinado. Ninguém trocou de sistema, ninguém contratou gente, ninguém reescreveu o fluxo, e mesmo assim a operação ficou mais rápida em um ponto específico.

Quando isso acontece, alguma etapa saiu do caminho oficial. Pode ter sido uma automação caseira, pode ter sido um estagiário que descobriu um atalho, e na maior parte das vezes que eu investiguei era uma ferramenta de IA fazendo a primeira versão de um texto, de uma planilha ou de um código. A pessoa não avisou porque o resultado veio bom e ela achou que estava resolvendo, e não escondendo.

O falso positivo é grande aqui, então cuidado. Prazo encolhe por muitos motivos legítimos, incluindo um cliente que ficou mais claro no briefing e um gestor que parou de pedir três rodadas de revisão. A conversa certa é a mais simples possível, feita com curiosidade genuína e sem tom de auditoria: você pergunta como a pessoa conseguiu, elogia se for o caso, e escuta. Em nove de cada dez vezes ela conta, com orgulho inclusive, porque nunca teve a chance de mostrar aquilo para alguém.

2. O texto do time ficou uniforme

Uniformidade repentina de escrita é um dos sinais mais confiáveis que existem, porque estilo pessoal muda devagar. Você lê os relatórios da sua área há anos e conhece a mão de cada pessoa: alguém escreve em frases curtas, alguém sempre abre com contexto demais, alguém usa duas vírgulas onde caberia uma. Daí, de uma semana para a outra, três relatórios diferentes chegam com o mesmo ritmo, o mesmo tipo de subtítulo e um vocabulário que ninguém daquele time usava em conversa.

Olha, o que costuma estar por trás é a mesma ferramenta sendo usada por várias pessoas, muitas vezes recomendada por uma delas no grupo de mensagens, sem que ninguém tenha combinado nada.

O falso positivo aparece quando a empresa acabou de rodar um treinamento de escrita, quando entrou um template novo ou quando um gestor começou a corrigir todo mundo do mesmo jeito. Vale conferir isso antes de qualquer conclusão. Se a hipótese se confirmar, o movimento que funciona é institucionalizar em vez de proibir, caminho que eu detalhei em proibir o ChatGPT é a pior resposta ao shadow AI. Escrita assistida com padrão da casa resolve o problema de qualidade e traz o uso para dentro do radar no mesmo movimento.

Leia também

3. A dúvida parou de circular entre as pessoas

Quando a dúvida some do time, ela mudou de destinatário, e esse é o sinal mais silencioso da lista. A analista que sempre parava na mesa do colega para confirmar uma regra de cálculo parou de parar. O canal de dúvidas do time, que vivia com pergunta, ficou vazio. As reuniões de alinhamento encurtaram, e não porque alguém resolveu ser objetivo.

Veja, ela não evaporou. As pessoas passaram a perguntar para uma ferramenta que responde em segundos, não julga e está disponível às onze da noite. Isso tem um lado bom, que é a autonomia, e tem um custo que aparece depois: a resposta que antes circulava e virava conhecimento comum agora fica na tela de uma pessoa só, e a memória do time para de crescer.

O falso positivo mais comum é o time sênior demais, que realmente precisa de menos ajuda. O segundo é o clima ruim, em que as pessoas param de perguntar por medo de parecer que não sabem, e esse merece uma investigação bem diferente. A pergunta que separa os dois casos é direta: as respostas ficaram melhores junto com o silêncio, ou só mais rápidas? Se ficaram melhores e mais rápidas ao mesmo tempo, tem ferramenta no meio.

4. Reembolso pequeno e recorrente de assinatura

Reembolso pequeno e recorrente de assinatura é gente pagando do próprio bolso para trabalhar melhor. Olhe a última planilha de reembolsos e procure os valores baixos que se repetem todo mês, na casa de cem a duzentos reais, com descrição genérica do tipo assinatura, software ou ferramenta de trabalho. Some por área e veja o desenho.

Junto com o retrato vem uma informação incômoda: a pessoa avaliou que valia gastar o dinheiro dela e pedir de volta em vez de esperar a aprovação de uma licença corporativa. Em várias empresas eu encontrei o mesmo produto sendo reembolsado em quatro áreas diferentes, com quatro contas pessoais e nenhum contrato, o que significa dado da empresa em quatro ambientes sem acordo comercial, sem trilha de auditoria e sem quem responder por eles.

O falso positivo aqui é pequeno, porque a assinatura pessoal de ferramenta de trabalho já diz alguma coisa mesmo quando não é IA. A ação da semana é igualmente pequena: junte os valores, veja quantas pessoas pagariam por uma licença única e compare com o custo de uma conta corporativa. Costuma dar economia junto com governança, e é a conversa mais fácil de vender para o financeiro que eu conheço.

Leia também

5. Pedido no helpdesk para liberar site ou instalar extensão

O helpdesk é o lugar onde o shadow AI bate na porta e se apresenta. Chamados pedindo para liberar um domínio bloqueado, para instalar uma extensão de navegador ou para autorizar um aplicativo novo são tentativas de fazer pelo caminho certo aquilo que já está sendo feito pelo caminho torto por quem não abriu chamado.

Vale olhar dois números nesses chamados. O primeiro é quantos existem, e o segundo, mais revelador, é quanto tempo eles levam para ser respondidos. Fila de aprovação com semanas de espera é o principal motor do uso escondido em empresa organizada, porque a pessoa tem entrega para segunda-feira e a resposta do comitê chega em vinte dias. Quem pediu e não foi atendido não desiste da ferramenta, apenas desiste do processo.

O falso positivo é o chamado que não tem nada de IA, como um site de fornecedor bloqueado pela política de rede, então filtre por domínio antes de contar. Feito o filtro, você tem em mãos uma lista de pessoas que quiseram fazer certo, e essa lista é o melhor ponto de partida para um caminho oficial, assunto que eu desenvolvo em como mapear shadow AI em 30 dias.

6. Documento com formatação que não é a da casa

Aspas de tipo diferente, marcadores que não existem no modelo oficial, títulos com maiúscula em toda palavra e espaçamento estranho no meio de um parágrafo bem escrito são restos de um texto que nasceu em outro lugar e foi colado ali dentro. Esse é o sinal artesanal da lista, e funciona bem em empresa que tem template.

A leitura não deve ser sobre quem colou. O que interessa é qual documento nasceu fora do ambiente da empresa, porque isso responde a pergunta que realmente importa, que é qual informação saiu. Proposta comercial, relatório de incidente, avaliação de desempenho e minuta de contrato saindo para uma ferramenta pessoal têm consequências bem diferentes de um roteiro de reunião interna.

O falso positivo é enorme e eu preciso ser honesto sobre isso: gente cola texto de e-mail, de mensagem e de PDF o dia inteiro, e nada disso envolve IA. Por isso este sinal vale como confirmação de uma hipótese que outros sinais já levantaram, e não como ponto de partida. Se você começar por aqui, vai gastar a semana lendo formatação e vai chegar em lugar nenhum.

7. Tráfego de rede para domínios de IA fora do padrão

Se a empresa tem TI própria ou um provedor que entrega relatório de DNS, você tem esse dado sem pedir nada a ninguém. Não é preciso ler conteúdo, e nem se deve. Olhe apenas para quais domínios de ferramentas de IA aparecem, com que frequência e em quantos dispositivos distintos, e compare com a lista do que a empresa contratou oficialmente.

O desenho costuma contar uma história clara. Uso concentrado em poucas máquinas indica entusiastas isolados, e a resposta certa para eles é convite, porque essas pessoas viram multiplicadores quando a empresa abre um caminho. Uso espalhado por dezenas de dispositivos indica prática consolidada de time inteiro, e nesse caso a discussão deixa de ser sobre pessoas e passa a ser sobre processo, orçamento e política.

O falso positivo aparece em três lugares: máquina pessoal na rede de visitantes, ferramenta que a empresa contratou e o próprio time esqueceu de registrar, e serviços que usam IA por baixo sem que ninguém tenha escolhido isso. Vale também lembrar do óbvio, que é o celular no 4G, invisível para qualquer relatório de rede. Esse dado mostra a parte do uso que passa pela sua infraestrutura, e nunca o total.

Leia também

8. Um assistente com o nome da empresa que ninguém aprovou

Aqui o uso escondido já se organizou. Alguém montou um assistente customizado, deu a ele o nome da empresa ou da área, subiu documentos internos para deixar as respostas mais precisas e compartilhou o link com os colegas. Costuma ser uma pessoa boa, engajada e resolvendo um problema real de quem vive perguntando a mesma coisa.

O risco muda de patamar nesse ponto, e por dois motivos. O primeiro é o material que foi para dentro dele, que quase sempre inclui documento que ninguém autorizaria a sair, tema que eu tratei em shadow AI e LGPD. O segundo é que aquilo virou infraestrutura informal: o time passou a depender de uma coisa que mora na conta pessoal de alguém, sem dono formal, sem versão, sem revisão e sem plano para o dia em que essa pessoa sair da empresa.

Não existe falso positivo relevante aqui, o que existe é uma armadilha de reação. A tentação é mandar desligar na hora, e eu já vi isso destruir seis meses de boa vontade em uma tarde. O caminho que funciona é adotar: reconhecer publicamente quem construiu, revisar o que foi carregado, colocar sob uma conta corporativa com dono nomeado e transformar aquilo no primeiro caso do caminho oficial. Sai mais barato que qualquer campanha de conscientização.

9. Um número na frente do cliente que não existe em sistema nenhum

Este último já saiu da detecção e entrou no incidente. Alguém mandou para o cliente um dado, um prazo, uma cláusula ou uma citação que não bate com nenhum sistema da empresa, e ninguém consegue explicar de onde veio. Quando a origem aparece, costuma ser uma resposta gerada que passou por revisão apressada e virou compromisso.

O custo aqui deixa de ser interno e passa a ser reputacional e contratual, com a agravante de que a empresa descobre pela boca do cliente. Já escrevi sobre a conta desse tipo de evento em quanto custa um incidente de shadow AI, e o que eu vejo na prática é que o valor do prejuízo importa menos do que o efeito interno: some a confiança na entrega de todo mundo, inclusive de quem nunca usou ferramenta nenhuma.

A resposta imediata não é sobre a pessoa. É sobre o ponto do processo em que uma informação chegou ao cliente sem passar por checagem contra a fonte oficial. Quem trabalha com dado sensível precisa de um passo explícito de conferência antes do envio, com fonte nomeada, e isso vale independentemente de IA estar envolvida. O evento apenas mostrou onde o buraco já estava.

Leia também

O mapa em uma tabela

sinal onde você observa o que costuma indicar falso positivo
Prazo encolheu calendário da área etapa saiu do caminho oficial briefing melhor, menos revisões
Texto uniforme relatórios do time mesma ferramenta em várias mãos template ou treinamento novo
Dúvida parou de circular canais do time a pergunta mudou de destinatário time sênior, ou clima ruim
Reembolso recorrente planilha de reembolso licença paga do próprio bolso assinatura legítima sem IA
Chamado de liberação helpdesk fila de aprovação lenta demais site de fornecedor bloqueado
Formatação estranha documentos internos texto nasceu fora da empresa cópia comum de e-mail e PDF
Tráfego para domínios de IA relatório de DNS prática isolada ou consolidada visitante, 4G, serviço embutido
Assistente não aprovado conversa do time infraestrutura informal com dado interno praticamente nenhum
Número que não existe reclamação do cliente incidente já materializado erro humano comum sem IA

Quando nenhum destes sinais serve

Existem quatro situações em que esta lista atrapalha mais do que ajuda. A primeira é a empresa que já abriu um caminho oficial com ferramenta contratada, política publicada e trilha de treinamento. Ali o uso paralelo continua existindo, e a leitura correta passa a ser de adoção e de lacuna de funcionalidade, com pergunta direta ao time sobre o que a ferramenta oficial não faz.

A segunda é a operação pequena, com oito ou dez pessoas na mesma sala. Você não precisa de sinal indireto, precisa de uma conversa de quinze minutos na sexta-feira. Método de detecção em empresa desse tamanho é burocracia cara e um jeito ruim de tratar quem está do seu lado todo dia.

A terceira é quando o que está por baixo é sobrecarga. Prazo encolhido, dúvida que sumiu e gente pagando ferramenta do próprio bolso também são o retrato de um time trabalhando além da conta e improvisando para dar conta. Se essa hipótese estiver na mesa, trate dela primeiro, porque a IA nesse caso é sintoma e não causa.

A quarta é a mais importante. Se a leitura destes sinais virar caça às bruxas, o resultado prático é que o uso migra para o celular pessoal, some da sua infraestrutura e volta a ser invisível, agora com o time avisado. Você terá destruído a informação que precisava justamente no momento em que ela estava mais fácil de obter. O motivo de as pessoas esconderem é quase sempre o mesmo, e eu explorei essa camada humana em quando o funcionário prefere a própria IA.

A régua que eu deixo com o líder

Os oito primeiros sinais são um presente, porque chegam enquanto ainda dá para escolher a resposta com calma. O nono chega quando a escolha já foi feita por você. A diferença entre uma empresa e outra raramente está na quantidade de uso escondido, que costuma ser parecida, e sim no tempo que a liderança leva para transformar sinal em conversa.

Se você observar dois ou três destes sinais na sua área nesta semana, o próximo passo cabe em uma frase: pergunte para as pessoas o que elas já estão usando, prometendo em voz alta que ninguém será punido pela resposta, e cumpra a promessa. É a coleta de dados mais barata e mais precisa que existe sobre este tema, e ela só funciona uma vez. Se a primeira conversa virar advertência, não haverá segunda.

Perguntas frequentes

Quais são os sinais de que a empresa tem shadow AI?

Os nove mais frequentes: prazo que encolheu sem mudança de processo, texto do time subitamente uniforme, dúvidas que pararam de circular entre as pessoas, reembolsos pequenos e recorrentes de assinatura, chamados no helpdesk pedindo liberação de site ou extensão, documentos com formatação diferente do template da casa, tráfego de rede para domínios de IA fora do padrão, um assistente customizado com nome da empresa que ninguém aprovou, e um dado dito ao cliente que não existe em nenhum sistema. Os oito primeiros dão tempo de agir; o nono já é incidente.

Como detectar shadow AI sem monitorar o funcionário?

Usando o que a empresa já tem: planilha de reembolsos, fila do helpdesk, relatório de DNS do provedor de rede e a observação normal de gestão sobre prazos e qualidade de entrega. Leitura de mensagem privada e monitoramento de tecla digitada entregam um dado morto, porque o uso migra para o celular pessoal e some da infraestrutura da empresa. A conversa aberta, com promessa cumprida de que ninguém será punido, costuma render mais informação do que qualquer varredura.

Shadow AI é problema de segurança ou de gestão?

Os dois, em tempos diferentes. O risco de segurança e de LGPD é real quando dado sensível vai para uma conta pessoal sem contrato e sem trilha de auditoria. A causa, porém, é de gestão: as pessoas escondem porque ninguém disse o que era permitido, porque a fila de aprovação demora semanas ou porque a ferramenta oficial não resolve o trabalho delas. Tratar apenas a camada de segurança empurra o uso para fora do alcance da empresa.

O que fazer na semana em que os sinais aparecem?

Três movimentos pequenos. Some os reembolsos de ferramenta por área e compare com o custo de uma licença corporativa. Meça o tempo de resposta da fila de aprovação, que costuma ser o principal motor do uso escondido. E faça uma conversa aberta com o time, sem punição, perguntando o que já está sendo usado e o que a ferramenta oficial não resolve. Com isso você sai da semana com lista de processos, e não com lista de nomes.

Sinais de shadow AI: 9 que aparecem antes do incidente