O que sua empresa não deveria colar no ChatGPT

Em 2024, um funcionário do escritório de Hong Kong de uma multinacional entrou numa videochamada com o diretor financeiro e vários colegas que ele reconhecia de vista. Recebeu a instrução de fazer uma série de transferências e fez: cerca de US$ 25 milhões. Tempos depois se descobriu que ele foi a única pessoa real daquela chamada. Todos os outros participantes eram deepfakes, rostos e vozes sintéticas montados por golpistas a partir de material público dos executivos.

Eu abro com essa história por um motivo: a era da IA mudou o preço da informação vazada. Dado que sai da sua empresa hoje vira matéria-prima de golpe, de engenharia social e de vantagem competitiva alheia com uma facilidade que não existia. E o vazamento raramente acontece num ataque de filme; acontece num funcionário apressado colando uma planilha num chat pra “ganhar tempo”. Se você pesquisou segurança de dados no ChatGPT, a resposta cabe numa regra e cinco categorias. A regra de bolso: só cole na IA o que você colocaria num e-mail pra alguém de fora da empresa. As categorias, a seguir.

Pra onde vai o que você cola?

Antes da lista, entenda o mecanismo, porque é ele que justifica o cuidado. Nas versões gratuitas e individuais das ferramentas, o que você digita pode, dependendo da configuração, ser usado pra treinar futuras versões do modelo, e fica retido nos servidores do fornecedor por algum tempo. O risco de o seu texto “aparecer pra outra pessoa” é pequeno, e as empresas de IA levam esse tema cada vez mais a sério. O ponto que basta pra política da sua empresa é anterior a esse risco: o dado saiu do seu controle. Você não sabe mais onde ele está, quem pode acessar sob quais circunstâncias, nem como apagar.

As versões corporativas (Team e Enterprise, nos vários fornecedores) mudam esse contrato: garantem por escrito que seus dados não treinam modelo e oferecem controles de retenção. É por isso que a primeira decisão de segurança de uma empresa séria com IA é banal: pagar a versão certa.

As cinco categorias que não entram

Um: dado pessoal de cliente. Nome com CPF, endereço, histórico de compras, qualquer coisa que identifique uma pessoa. Aqui manda a LGPD, e ela vale pra dado colado em chat exatamente como vale pra dado em qualquer sistema. Multa, obrigação de notificar e dano de imagem inclusos. Dado de saúde é o caso agravado da categoria, com tratamento especial na lei.

Dois: financeiro não público. Faturamento, margem, folha, fluxo de caixa, condições negociadas com fornecedores. Em empresa de capital aberto, o assunto ganha camada regulatória; em qualquer empresa, é o tipo de informação que o concorrente pagaria pra ter.

Três: propriedade intelectual e estratégia. Código-fonte proprietário, fórmula, roadmap de produto, minuta de aquisição, tese de negociação. Foi um vazamento dessa categoria, aliás, que fez gigantes como a Samsung restringirem o ChatGPT internamente em 2023, depois de engenheiros colarem código confidencial pra revisar.

Quatro: credenciais. Senha, chave de API, token de acesso, dados de cartão. Essa categoria nem deveria precisar constar na lista, e é a que eu mais vejo em print de tela por aí, geralmente dentro de um “me ajuda a debugar esse erro” com a chave inteira no meio do código colado.

Cinco: documento de terceiros protegido por confidencialidade. Contrato com cláusula de sigilo, material de cliente, proposta recebida. A informação pode nem ser sensível pra você, e mesmo assim colar pode ser quebra contratual sua. Quem assina NDA responde por onde o documento circula.

“Então o time não pode usar IA pra nada?”

Pera aí, que a conclusão certa é a oposta da paralisia. As cinco categorias cobrem uma fração pequena do trabalho do dia a dia; o resto (rascunho de e-mail, resumo de reunião interna, texto de marketing, análise de dado público, estudo de mercado) flui sem drama. E pra trabalhar com o material sensível existem três caminhos maduros.

Caminho um: anonimizar. “Cliente X”, “produto Y”, valores trocados por proporções. Pra boa parte dos usos, a IA não precisa saber quem é; precisa da estrutura do problema. Um exemplo pra deixar concreto: em vez de “a Metalúrgica Souza deve R$ 340 mil há 90 dias e o diretor João ameaçou romper o contrato”, cole “um cliente industrial de grande porte está inadimplente há 90 dias num valor relevante e a diretoria dele ameaçou romper o contrato; me ajude a estruturar a conversa de cobrança”. A resposta que volta serve do mesmo jeito, e nada saiu da empresa. Vinte segundos de troca de nomes resolvem a maioria dos casos do dia a dia.

Caminho dois: pagar a versão corporativa e configurar retenção. Com contrato de não-treinamento assinado, a conversa muda de patamar, e categorias como a financeira passam a ser gerenciáveis dentro de regras internas.

Caminho três: pra base de conhecimento sensível em escala, montar um assistente próprio da empresa, com controle de acesso por perfil, como descrevo em como criar um assistente de IA da sua empresa.

O que não funciona é a quarta via, infelizmente popular: proibir tudo por e-mail solene e fingir que resolveu. O funcionário com prazo aperta e usa no celular pessoal, sem regra, sem versão corporativa e sem contar pra ninguém. Proibição sem alternativa não elimina o uso; elimina a visibilidade sobre o uso, que era a única proteção que a empresa tinha.

A política de uma página

Todo esse artigo cabe num documento que eu recomendo a qualquer empresa escrever esta semana. Três blocos: quais ferramentas e versões são aprovadas; as cinco categorias que jamais entram, com dois exemplos concretos de cada; e a instrução pra dúvida, com o nome de quem responde. Uma página, linguagem de gente, apresentada em vinte minutos de reunião com exemplos reais. Esse documento é parte do sprint de adoção que descrevo em como levar IA pro seu time, e costuma ser a página com melhor custo-benefício de toda a governança da empresa.

E note o que a história de Hong Kong acrescenta à política: segurança com IA inclui também desconfiar do que chega, além de proteger o que sai. Transferência relevante pedida por vídeo ou voz merece confirmação por outro canal, sempre. O rosto na tela deixou de ser prova de identidade, e quanto antes o financeiro internalizar isso, melhor. Sobre confiar no que a IA te devolve, a conversa é outra e está em dá pra confiar no ChatGPT?.

Faça isso agora

Teste de cinco minutos, sem julgamento: abra seu próprio histórico de conversas com IA e passe o olho procurando as cinco categorias. Achou alguma? Bem-vindo à maioria, e agora você sabe o tamanho real do tema na sua empresa, porque o seu histórico multiplicado pelo número de funcionários é a exposição atual. Segunda ação, ainda hoje: rascunhe a política de uma página com os três blocos acima e mande pra uma pessoa do jurídico ou da TI revisar. Amanhã sua empresa já está mais protegida do que 90% do mercado.

Montar essa governança sem matar a produtividade do time é um dos trabalhos que eu mais faço em consultoria, e o tema que mais gera pergunta nas minhas palestras pra liderança. Escreve pra contato@thiagocaserta.com se quiser esse olhar no seu contexto.