CONSTRUO IA: SEGURA, TESTADA, AUDITÁVEL.CONSTRUO IA
SEGURA_

Problema

Times de suporte querem automatizar chamados, mas automatizar pedidos de acesso, incidentes críticos ou chamados com dados pessoais sem limites claros gera risco. Inspirado na experiência com ~1.000 incidentes por mês.

O que construí

Um protótipo local em Python. As regras da primeira versão (só biblioteca padrão) continuam como guardrail, e um classificador com LLM (Claude pela API da Anthropic, saída JSON validada contra listas fechadas, saída inválida vai para uma pessoa) é combinado com elas: vale a decisão mais restritiva e qualquer divergência vai para uma pessoa. A resposta só é redigida quando os dois permitem automação, é verificada (dados sensíveis, afirmação de ação realizada, tamanho) e é enviada, em simulação, só com aprovação explícita. Um avaliador compara 2 versões de prompt e 2 modelos em 30 chamados sintéticos rotulados. O log de auditoria registra as duas decisões com valores sensíveis mascarados.

Evidências

• Avaliação em 30 chamados sintéticos rotulados, 2 modelos Claude × 2 versões de prompt. Com a política escrita no prompt (v2), os dois modelos acertaram a categoria em 28/30 chamados, contra 9/30 das regras sozinhas.
• Automação indevida (chamado que exige uma pessoa mas receberia resposta automática, 21 dos 30): 8/21 só com as regras; com o guardrail, 1/21 no prompt v1 e 0/21 no v2. O LLM sozinho teria automatizado 3/21 (v1) e 1/21 (v2).
• O custo da cautela: com o v2, 4 dos 9 chamados que poderiam ser automatizados foram para uma pessoa mesmo assim. Custo por chamado com o v2: US$ 0,00016 (Haiku 5.5) contra US$ 0,0032 (Sonnet 5.5), com preços conferidos em 10/11/2026.
• 84 testes automatizados (biblioteca padrão; nenhum chama a API) rodam no CI a cada push (Python 3.10 e 3.13). A tabela de resultados é gerada de um arquivo de resultados versionado, e um teste confere que o README bate com ele.

Guardrails

• O LLM só pode tornar a decisão mais rígida: o que as regras bloqueiam ele não libera, e qualquer divergência entre regras e LLM vai para uma pessoa.
• Saída inválida do LLM (JSON malformado, valor desconhecido, recusa, erro de API) conta como falha e vai para uma pessoa.
• O rascunho de resposta é verificado quanto a dados sensíveis, afirmação de ação realizada e tamanho, e nada é enviado sem aprovação humana explícita.
• Dados sensíveis são mascarados antes de chegar ao log de auditoria.

Limitações conhecidas

• 30 chamados sintéticos, com rótulos redigidos com apoio de IA e aprovados por um revisor (eu): um chamado vale 3,3 pontos percentuais. Uma execução por combinação, variância não medida.
• O prompt v2 foi escrito a partir da mesma política que gerou os rótulos. O resultado mostra que o modelo segue uma política declarada, não como ele se sairia em chamados reais.
• Só a classificação foi avaliada; os rascunhos de resposta e a latência não.
• Sem defesa completa contra prompt injection (5 chamados de injection são uma amostra, não uma avaliação de segurança) e sem mascaramento antes da chamada à API: o texto do chamado é enviado como está, só o nome do solicitante fica de fora.
• A aprovação humana é uma pergunta no console e o envio é simulado; sem integração com sistema de chamados real.

Problema

Funcionários adotam ferramentas de IA mais rápido do que as organizações conseguem aprová-las: dados pessoais vão para ferramentas não aprovadas, decisões automatizadas pulam a revisão humana e ninguém sabe quais sistemas de IA estão em uso (Shadow AI).

O que construí

Uma política bilíngue (EN/PT) com 14 seções e um checklist de conformidade auditável, um mapeamento seção a seção para frameworks (ISO/IEC 42001, NIST AI RMF, LGPD) e um procedimento de avaliação de risco de fornecedores de IA com uma matriz em Excel que pontua até 3 fornecedores lado a lado.

Evidências

• Mapeamento de frameworks: de 23 requisitos, 13 cobertos explicitamente, 7 parcialmente e 3 delegados à organização que adota. Lacunas documentadas num roadmap da v3.0.
• Procedimento de risco de fornecedores: classificação de risco inerente, 30 perguntas em 8 domínios ponderados, 5 critérios eliminatórios e cláusulas contratuais obrigatórias.

Limitações conhecidas

• É um modelo, não a política ativa de nenhuma organização. A adoção exige revisão jurídica e de governança pela empresa que adotar.