← Todos os serviços

A IA fala em nome da empresa, então precisa de regra

Chatbot, assistente interno e automação com IA respondem, leem documentos e às vezes agem sozinhos. Dá pra usar com segurança, desde que se teste o que ela pode vazar, prometer ou fazer.

Empresa que já colocou IA de linguagem em produção: atendimento ao cliente, assistente interno com acesso a documentos, agentes que executam ações em sistemas.

O problema, com fonte

2023

Código-fonte colado no ChatGPT

Funcionários da Samsung enviaram dados sensíveis, incluindo código-fonte da empresa, ao ChatGPT. A empresa restringiu temporariamente o uso de IA generativa em aparelhos da companhia até preparar regras de segurança.

Fonte: TechRadar, Samsung bans ChatGPT
2024

O chatbot prometeu, a empresa pagou

O chatbot da Air Canada informou errado a regra de tarifa por luto. A companhia alegou que o robô era responsável pelos próprios atos; o tribunal decidiu que a empresa responde por toda informação do seu site e mandou pagar 812 dólares canadenses.

Fonte: CBS News, Air Canada chatbot
2025

A lista de riscos da comunidade

O OWASP Top 10 para aplicações com LLM coloca prompt injection em primeiro e vazamento de informação sensível em segundo, seguidos por cadeia de suprimento, envenenamento de dados e agência excessiva.

Fonte: OWASP, Top 10 for LLM Applications 2025

Sua IA ajuda o cliente sem abrir a porta.

  • Inventário de onde a IA é usada, que dados ela lê e que ações ela pode executarProjeto
  • Teste ofensivo da IA: prompt injection, vazamento de dados e do prompt de sistema, respostas fora da políticaProjeto
  • Barreiras técnicas: filtro de entrada e saída, permissões mínimas, aprovação humana para ações sensíveisProjeto
  • Política de uso de IA para funcionários: o que pode e o que não pode ser colado em ferramenta externaProjeto
  • Reteste a cada mudança de modelo, prompt ou integraçãoTrimestral

Cada serviço se contrata sozinho. Você monta o conjunto que faz sentido para a sua empresa.

Combina com