Dev.to AI 🤖 Ai 👁 0 📖 5 min read

Política de uso seguro de IA em engenharia: guardrails que impedem o agente de passar do ponto

Nomes de empresa, contas e repositórios são placeholders. Use como base e adapte. O problema As ferramentas de IA hoje escrevem código, leem log, consultam a nuvem e executam comando no seu lugar. O ganho é r

Nomes de empresa, contas e repositórios são placeholders. Use como base e adapte.

O problema

As ferramentas de IA hoje escrevem código, leem log, consultam a nuvem e executam comando no seu lugar. O ganho é real. O risco novo também: um agente pode interpretar um pedido de forma mais ampla do que você quis e mexer em algo que ninguém pediu.

O caso clássico, inventado só para ilustrar: alguém pede "arruma o timeout da API" sem dizer onde nem com que limite. O agente, tentando ajudar, encontra a configuração em produção e altera. O pedido não estabeleceu fronteira, então ele preencheu a lacuna sozinho.

A reação errada é proibir IA. A certa é definir como usar com segurança. Essa política faz isso em três frentes que se reforçam.

A ideia em uma frase: instrução no prompt orienta a IA; permissão na ferramenta e no IAM impede a IA. A política exige as duas, porque o modelo pode falhar, mas o IAM não negocia.

As dez regras de ouro

  1. Todo pedido com ação tem escopo explícito: o que, onde (qual ambiente), com que limite.
  2. Plano antes de agir. O agente descreve o que vai fazer antes de fazer.
  3. Um passo de cada vez em qualquer coisa que altera estado, com confirmação humana.
  4. Evidência de antes e depois de cada alteração.
  5. Produção é read-only para IA por padrão. Escrita em produção é exceção aprovada.
  6. A IA usa perfil próprio, nunca o seu usuário administrador.
  7. Segredo nunca entra no prompt. Nem chave, nem senha, nem token.
  8. Nada de push direto em branch protegida. O caminho é sempre pull request.
  9. Todo comando destrutivo pede confirmação dupla e mostra o impacto.
  10. Registro de tudo: o que foi pedido, o que a IA fez, quem aprovou.

Níveis de autonomia

Classifique cada tipo de tarefa. Isso tira a ambiguidade do "a IA pode fazer isso?".

Nível O que a IA pode Exemplo
N0 - Leitura Só consultar e sugerir. Zero alteração. Explicar um log, revisar código, propor um plano
N1 - Escrita local Alterar arquivos no repositório, abrir PR. Escrever função, teste, corrigir bug em branch
N2 - Escrita fora de produção Aplicar mudança em dev e homologação. Subir recurso em conta de sandbox
N3 - Produção Só com aprovação humana explícita, passo a passo. Mudança em produção, sempre acompanhada

O padrão para qualquer ferramenta de IA é N0 ou N1. N2 e N3 são concedidos por contexto, não por padrão.

O protocolo de execução assistida

Para qualquer tarefa que altera estado, o fluxo é sempre o mesmo:

  1. Entendimento: a IA repete o pedido com o escopo que entendeu.
  2. Plano: lista os passos, o que cada um altera, e o que é irreversível.
  3. Aprovação: o humano aprova o plano (ou ajusta).
  4. Execução passo a passo: um passo, mostra o resultado, pergunta antes do próximo.
  5. Evidência: estado antes e depois de cada alteração.
  6. Relatório: o que foi feito, com os IDs dos recursos tocados.

Parece burocrático. Na prática, vira hábito em uma semana e evita o incidente que custa um fim de semana.

Guardrail de verdade: a camada que não depende do prompt

Instrução no prompt é a primeira linha, mas ela orienta. O que impede é a permissão. Duas camadas concretas:

IAM: um perfil só para IA

A IA nunca usa seu usuário. Ela usa um perfil dedicado, read-only em tudo e sem escrita em produção. Uma política de identidade de base:

{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Sid": "LeituraAmpla",
      "Effect": "Allow",
      "Action": [
        "ec2:Describe*",
        "s3:Get*",
        "s3:List*",
        "rds:Describe*",
        "logs:Get*",
        "logs:FilterLogEvents",
        "cloudwatch:Get*",
        "cloudwatch:List*"
      ],
      "Resource": "*"
    },
    {
      "Sid": "NegaEscritaEmProducao",
      "Effect": "Deny",
      "Action": "*",
      "Resource": "*",
      "Condition": {
        "StringEquals": { "aws:ResourceTag/ambiente": "producao" }
      }
    }
  ]
}

O Deny com condição de tag vence qualquer Allow. Mesmo que alguém amplie as permissões do perfil por engano, recurso marcado como produção fica protegido. Para a organização inteira, a mesma ideia vira SCP (veja o post sobre SCPs aqui do blog).

Git: nada entra sem revisão

# Branch protegida: sem push direto, PR obrigatório, revisao obrigatoria
gh api -X PUT "repos/<ORG>/<REPO>/branches/main/protection" \
  --input - <<'EOF'
{
  "required_status_checks": { "strict": true, "contexts": ["ci/testes"] },
  "enforce_admins": true,
  "required_pull_request_reviews": { "required_approving_review_count": 1 },
  "restrictions": null
}
EOF

Com isso, código gerado por IA entra pelo mesmo portão que o código de qualquer pessoa: pull request, CI e revisão humana. O agente propõe; a pessoa aprova.

Complemento barato: um arquivo de instruções no repositório (CLAUDE.md, AGENTS.md, .cursorrules, conforme a ferramenta) que fixa as regras para o agente, e um hook de pre-commit que barra segredo:

pip install detect-secrets
detect-secrets scan > .secrets.baseline
# e um hook de pre-commit rodando: detect-secrets-hook --baseline .secrets.baseline

O que muda no dia a dia

Antes Depois
"Corrige o timeout da API." "Investigue o timeout da API em homologação, somente leitura, e me traga um plano."
IA usa o mesmo perfil do dev, muitas vezes admin. IA usa o perfil ia-*: leitura geral, escrita só fora de produção.
IA roda vários comandos e diz "pronto". IA roda um passo aprovado, mostra antes e depois, pergunta antes do próximo.
Ninguém sabe o que a IA alterou. Relatório final obrigatório e alerta de qualquer escrita no CloudTrail.

Detecção: saber quando a IA escreveu algo

Dê um principal ou uma tag específica para a IA e monitore qualquer escrita dela:

SELECT eventtime, eventname, useridentity.arn,
       json_extract_scalar(requestparameters, '$') AS parametros
FROM cloudtrail_logs
WHERE useridentity.arn LIKE '%ia-operador%'
  AND readonly = 'false'
  AND "timestamp" >= date_format(current_date - INTERVAL '1' DAY, '%Y/%m/%d')
ORDER BY eventtime DESC;

Qualquer linha aqui é uma escrita feita por IA. Em produção, idealmente, esse resultado é sempre vazio.

Como implantar sem travar o time

  1. Semana 1: perfil de IA read-only criado, documento de regras no repositório, branch protection ligada. Só isso já corta o maior risco.
  2. Semana 2 a 4: protocolo de execução assistida vira padrão. Time pratica em tarefas N1.
  3. Depois: SCP de produção na Organization, alerta de escrita por IA, exceções N2/N3 documentadas com dono e prazo.

Resumo

IA em engenharia não precisa ser proibida nem liberada sem freio. Ela precisa de escopo no pedido, autonomia classificada, execução passo a passo com evidência e, acima de tudo, guardrail que não dependa do prompt: perfil próprio, produção negada por tag, e código sempre passando por PR. O prompt orienta; o IAM e o Git impedem. É a combinação que deixa o time usar IA todo dia sem medo do dia em que o modelo entender o pedido da forma errada.

📰 Read the original article on Dev.to AI

Originally published by Dev.to AI. Aggregated on AIWithGhost for educational purposes — full credit and traffic to the original publisher.