O perigo (invisível) de compartilhar informações internas em chats de IA

Ferramentas de IA generativa — como assistentes de chat e copilots — viraram parte do dia a dia em muitas empresas. Elas ajudam a escrever e-mails, revisar códigos, montar apresentações e até apoiar decisões estratégicas. O problema é que, junto com esse ganho de produtividade, veio um novo vetor de risco que muita gente ainda está subestimando: o vazamento de informações internas via chats de IA.

Na Hacking78, nós vivemos segurança ofensiva e pentest no dia a dia, e temos visto uma mudança clara no perfil dos incidentes: dados sensíveis estão cada vez menos expostos por falhas técnicas clássicas e cada vez mais por uso descuidado de ferramentas inteligentes.

Este artigo faz um paralelo entre o uso cotidiano de IA e os riscos de segurança para organizações, e mostra como reduzir esse risco sem precisar “banir” a IA da sua empresa.

O que realmente acontece quando você manda algo para um chat de IA?

Muita gente encara a IA como se estivesse conversando com um “Word inteligente” rodando localmente no computador. Na prática, o cenário é bem diferente:

• Você envia sua pergunta ou arquivo;
• Essa informação é processada em servidores externos (normalmente na nuvem do provedor);
• Em alguns casos, os dados podem ser registrados em logs, audit trails ou usados para melhorias de modelo, dependendo da política da ferramenta e das configurações empresariais.

Em termos de segurança ofensiva, isso significa:

• Superfície de ataque ampliada: agora não é só o seu ambiente interno que importa, mas também o ambiente do provedor de IA.
• Novo ponto de exfiltração de dados: o “canal de saída” não é mais só e-mail, FTP ou SaaS corporativo; é também o chat onde o colaborador “só pediu ajuda para formatar um relatório”.

Isso não é teoria. Diversas empresas globais já tiveram incidentes após perceberem que colaboradores estavam colando código-fonte, estratégias de negócio e dados de clientes em chats de IA públicos.

Por que isso é especialmente perigoso para organizações?

1. Vazamento involuntário de propriedade intelectual Imagine um desenvolvedor que copia um módulo inteiro de um sistema proprietário e pede: “Explique esse código e melhore a performance.” Ele não tem má intenção, mas colocou propriedade intelectual crítica em um ambiente que a empresa não controla.

• Riscos: código exposto em incidentes do provedor ou usado para inspirar respostas para outros usuários.

2. Exposição de dados pessoais e LGPD Alguém da área de atendimento cola a transcrição de uma conversa com um cliente para resumir. Aqui entram nomes, CPFs e dados sensíveis sendo enviados a terceiros sem base legal ou DPIA adequado, o que pode caracterizar tratamento inadequado perante a LGPD.

3. Vazamento de estratégias e roadmaps A IA é tentadora para “pensar junto” em decisões estratégicas, como negociações ou planos de comunicação de demissões. Se esses dados saírem do controle, afetam o valor de mercado, a moral interna e a vantagem competitiva.

4. Criação de um “shadow IT de IA” Colaboradores usam contas pessoais porque “é mais prático”. Os times de TI perdem a visibilidade desse tráfego, criando canais paralelos onde dados corporativos circulam sem qualquer governança.

Paralelo com o mundo do pentest: o que mudou?

Nos testes de invasão tradicionais, buscamos serviços expostos e injeções técnicas. Com a IA, surge uma camada adicional:

• Revisão de fluxos de dados: Onde os dados sensíveis “escapam” em integrações e plugins.
• Avaliação de risco de prompts: Como funcionários estão usando a IA (copiam código? logs? dados de produção?).
• Teste de agentes internos: Ferramentas proprietárias de IA que conectam dados corporativos e podem virar um novo ponto de entrada para exploração.

Como reduzir o risco sem demonizar a IA

Proibir o uso costuma ser ineficaz. O caminho é tratar a IA como qualquer outra tecnologia crítica: com política, governança e segurança.

• Política clara de uso: Defina o que NÃO pode ser enviado (dados pessoais, código-fonte, documentos confidenciais) e o que pode (textos genéricos, dúvidas conceituais).
• Soluções Corporativas: Prefira versões enterprise com contratos de confidencialidade e onde os dados não são usados para treinar modelos públicos.
• Anonimizar de verdade: Não apenas trocar nomes, mas remover IDs, telefones e contextos que permitam a reidentificação.
• Treinamento Real: Use exemplos concretos e simulações de uso inseguro para mudar o comportamento da equipe.
• Segurança Ofensiva: Inclua a IA no seu inventário de riscos e realize pentests que validem fluxos e agentes internos.

Conclusão: IA é poderosa — e exige responsabilidade

A questão não é “usar ou não usar”, mas como usar sem transformar a IA em um novo canal de vazamento. Empresas que querem o potencial da IA precisam de governança e uma estratégia de segurança ofensiva robusta.

A boa notícia é que é possível inovar sem abrir mão da segurança — desde que o tema seja tratado com a mesma seriedade que você já dedica à sua infraestrutura.