Política de uso seguro de IA em engenharia: guardrails que impedem o agente de passar do ponto
Nomes de empresa, contas e repositórios são placeholders. Use como base e adapte. O problema As ferramentas de IA hoje escrevem código, leem log, consultam a nuvem e executam comando no seu lugar. O ganho é r
Nomes de empresa, contas e repositórios são placeholders. Use como base e adapte.
O problema
As ferramentas de IA hoje escrevem código, leem log, consultam a nuvem e executam comando no seu lugar. O ganho é real. O risco novo também: um agente pode interpretar um pedido de forma mais ampla do que você quis e mexer em algo que ninguém pediu.
O caso clássico, inventado só para ilustrar: alguém pede "arruma o timeout da API" sem dizer onde nem com que limite. O agente, tentando ajudar, encontra a configuração em produção e altera. O pedido não estabeleceu fronteira, então ele preencheu a lacuna sozinho.
A reação errada é proibir IA. A certa é definir como usar com segurança. Essa política faz isso em três frentes que se reforçam.
A ideia em uma frase: instrução no prompt orienta a IA; permissão na ferramenta e no IAM impede a IA. A política exige as duas, porque o modelo pode falhar, mas o IAM não negocia.
As dez regras de ouro
- Todo pedido com ação tem escopo explícito: o que, onde (qual ambiente), com que limite.
- Plano antes de agir. O agente descreve o que vai fazer antes de fazer.
- Um passo de cada vez em qualquer coisa que altera estado, com confirmação humana.
- Evidência de antes e depois de cada alteração.
- Produção é read-only para IA por padrão. Escrita em produção é exceção aprovada.
- A IA usa perfil próprio, nunca o seu usuário administrador.
- Segredo nunca entra no prompt. Nem chave, nem senha, nem token.
- Nada de push direto em branch protegida. O caminho é sempre pull request.
- Todo comando destrutivo pede confirmação dupla e mostra o impacto.
- Registro de tudo: o que foi pedido, o que a IA fez, quem aprovou.
Níveis de autonomia
Classifique cada tipo de tarefa. Isso tira a ambiguidade do "a IA pode fazer isso?".
| Nível | O que a IA pode | Exemplo |
|---|---|---|
| N0 - Leitura | Só consultar e sugerir. Zero alteração. | Explicar um log, revisar código, propor um plano |
| N1 - Escrita local | Alterar arquivos no repositório, abrir PR. | Escrever função, teste, corrigir bug em branch |
| N2 - Escrita fora de produção | Aplicar mudança em dev e homologação. | Subir recurso em conta de sandbox |
| N3 - Produção | Só com aprovação humana explícita, passo a passo. | Mudança em produção, sempre acompanhada |
O padrão para qualquer ferramenta de IA é N0 ou N1. N2 e N3 são concedidos por contexto, não por padrão.
O protocolo de execução assistida
Para qualquer tarefa que altera estado, o fluxo é sempre o mesmo:
- Entendimento: a IA repete o pedido com o escopo que entendeu.
- Plano: lista os passos, o que cada um altera, e o que é irreversível.
- Aprovação: o humano aprova o plano (ou ajusta).
- Execução passo a passo: um passo, mostra o resultado, pergunta antes do próximo.
- Evidência: estado antes e depois de cada alteração.
- Relatório: o que foi feito, com os IDs dos recursos tocados.
Parece burocrático. Na prática, vira hábito em uma semana e evita o incidente que custa um fim de semana.
Guardrail de verdade: a camada que não depende do prompt
Instrução no prompt é a primeira linha, mas ela orienta. O que impede é a permissão. Duas camadas concretas:
IAM: um perfil só para IA
A IA nunca usa seu usuário. Ela usa um perfil dedicado, read-only em tudo e sem escrita em produção. Uma política de identidade de base:
{
"Version": "2012-10-17",
"Statement": [
{
"Sid": "LeituraAmpla",
"Effect": "Allow",
"Action": [
"ec2:Describe*",
"s3:Get*",
"s3:List*",
"rds:Describe*",
"logs:Get*",
"logs:FilterLogEvents",
"cloudwatch:Get*",
"cloudwatch:List*"
],
"Resource": "*"
},
{
"Sid": "NegaEscritaEmProducao",
"Effect": "Deny",
"Action": "*",
"Resource": "*",
"Condition": {
"StringEquals": { "aws:ResourceTag/ambiente": "producao" }
}
}
]
}
O Deny com condição de tag vence qualquer Allow. Mesmo que alguém amplie as permissões do perfil por engano, recurso marcado como produção fica protegido. Para a organização inteira, a mesma ideia vira SCP (veja o post sobre SCPs aqui do blog).
Git: nada entra sem revisão
# Branch protegida: sem push direto, PR obrigatório, revisao obrigatoria
gh api -X PUT "repos/<ORG>/<REPO>/branches/main/protection" \
--input - <<'EOF'
{
"required_status_checks": { "strict": true, "contexts": ["ci/testes"] },
"enforce_admins": true,
"required_pull_request_reviews": { "required_approving_review_count": 1 },
"restrictions": null
}
EOF
Com isso, código gerado por IA entra pelo mesmo portão que o código de qualquer pessoa: pull request, CI e revisão humana. O agente propõe; a pessoa aprova.
Complemento barato: um arquivo de instruções no repositório (CLAUDE.md, AGENTS.md, .cursorrules, conforme a ferramenta) que fixa as regras para o agente, e um hook de pre-commit que barra segredo:
pip install detect-secrets
detect-secrets scan > .secrets.baseline
# e um hook de pre-commit rodando: detect-secrets-hook --baseline .secrets.baseline
O que muda no dia a dia
| Antes | Depois |
|---|---|
| "Corrige o timeout da API." | "Investigue o timeout da API em homologação, somente leitura, e me traga um plano." |
| IA usa o mesmo perfil do dev, muitas vezes admin. | IA usa o perfil ia-*: leitura geral, escrita só fora de produção. |
| IA roda vários comandos e diz "pronto". | IA roda um passo aprovado, mostra antes e depois, pergunta antes do próximo. |
| Ninguém sabe o que a IA alterou. | Relatório final obrigatório e alerta de qualquer escrita no CloudTrail. |
Detecção: saber quando a IA escreveu algo
Dê um principal ou uma tag específica para a IA e monitore qualquer escrita dela:
SELECT eventtime, eventname, useridentity.arn,
json_extract_scalar(requestparameters, '$') AS parametros
FROM cloudtrail_logs
WHERE useridentity.arn LIKE '%ia-operador%'
AND readonly = 'false'
AND "timestamp" >= date_format(current_date - INTERVAL '1' DAY, '%Y/%m/%d')
ORDER BY eventtime DESC;
Qualquer linha aqui é uma escrita feita por IA. Em produção, idealmente, esse resultado é sempre vazio.
Como implantar sem travar o time
- Semana 1: perfil de IA read-only criado, documento de regras no repositório, branch protection ligada. Só isso já corta o maior risco.
- Semana 2 a 4: protocolo de execução assistida vira padrão. Time pratica em tarefas N1.
- Depois: SCP de produção na Organization, alerta de escrita por IA, exceções N2/N3 documentadas com dono e prazo.
Resumo
IA em engenharia não precisa ser proibida nem liberada sem freio. Ela precisa de escopo no pedido, autonomia classificada, execução passo a passo com evidência e, acima de tudo, guardrail que não dependa do prompt: perfil próprio, produção negada por tag, e código sempre passando por PR. O prompt orienta; o IAM e o Git impedem. É a combinação que deixa o time usar IA todo dia sem medo do dia em que o modelo entender o pedido da forma errada.
Originally published by Dev.to AI. Aggregated on AIWithGhost for educational purposes — full credit and traffic to the original publisher.