Tag

guardrail

Pedido não é controle: o que separa uma regra de um agente que a obedece

Pedido não é controle: o que separa uma regra de um agente que a obedece

Regra escrita em arquivo de prompt ou AGENTS.md é pedido, não controle: o agente pode simplesmente ignorá-la. Este artigo mostra por que disciplina de verdade só existe quando ela está em algo fora do alcance do agente, como testes imutáveis, branches protegidas e aprovação humana obrigatória para operações irreversíveis.

Artigo, Inteligência Artificial