Agência governada: autonomia com sandbox, orçamento e auditoria

O debate sobre agentes de inteligência artificial oscila entre dois erros simétricos. O primeiro é negar-lhes agência: sistemas que apenas respondem, nunca operam, e cujo valor institucional fica permanentemente abaixo do custo de os manter. O segundo é conceder-lhes agência sem estrutura: agentes com credenciais plenas, sem isolamento, sem orçamento e sem revisão — a operar com a confiança que se dá a um estagiário no primeiro dia e o alcance de um administrador de sistemas.

A Demix constrói agência governada: sistemas de IA que operam de verdade — executam, modificam, decidem dentro de envelope — sob uma estrutura de governança que torna o erro contido, o acerto verificável e a autoridade sempre reconstruível. Este artigo descreve os cinco pilares desse modelo, ao nível do princípio.

Pilar 1 — Isolamento: a agência opera em sandbox

Toda a execução delegada a uma entidade de IA acontece em ambiente isolado: processo separado, identidade de sistema reduzida, limites de recursos aplicados pelo próprio sistema operativo. O agente não herda os privilégios de quem o criou; recebe os privilégios mínimos necessários à tarefa — e nada além.

O isolamento tem duas funções. A primeira é a contenção: um agente que falha — por erro de raciocínio, por instrução malformada ou por entrada hostil — falha dentro de uma caixa cujas paredes são definidas pelo sistema, não pela sorte. A segunda é a honestidade operacional: em ambiente isolado com recursos limitados, não existe a tentação silenciosa de contornar limites, porque os limites são físicos. Permissão negada é um resultado observável, não uma sugestão.

Pilar 2 — Orçamento: os recursos são finitos e declarados

Agência sem orçamento é risco sem teto. Cada tarefa delegada carrega um orçamento explícito de recursos — tempo de execução, volume de operações, custo computacional — e o agente opera dentro dele. Quando o orçamento se esgota, a tarefa não continua em modo zombie: para, e o estado parcial é devolvido de forma estruturada para decisão de nível superior.

O orçamento tem também uma função económica que as instituições entendem bem: torna o custo da agência visível e atribuível. Cada operação delegada tem custo medido; cada entidade tem consumo rastreável; decisões de escalar, repetir ou abandonar uma tarefa são decisões com preço conhecido. Autonomia com contabilidade aberta é autonomia que uma instituição pode sustentar — e auditar — no longo prazo.

Pilar 3 — Revisão independente: quem faz não é quem aprova

Nenhuma produção de um agente é aceite pela simples declaração do próprio agente. O modelo da Demix aplica a separação de funções: o trabalho executado por uma entidade passa por revisão independente — outra instância, com o mesmo acesso à evidência e nenhum compromisso com o resultado — antes de ser aceite.

A revisão independente ataca a falha mais característica dos sistemas que se autoavaliam: a autoconfiança não calibrada. Um agente que declara sucesso tende a declarar sucesso; um revisor que não produziu o artefacto não tem essa lealdade. Onde a revisão encontra divergência entre o declarado e o verificável, o trabalho regressa — com o registo da divergência preservado, porque o histórico de quase-erros é tão valioso como o de acertos.

Pilar 4 — Portão de testes: a promoção é conquista, não decisão

Quando a agência produz mudanças em artefactos duradouros — código, configuração, conteúdo — a promoção ao estado oficial atravessa um portão objetivo: a bateria de testes aplicável precisa de estar verde antes, e verde depois da mudança. O portão não negocia, não interpreta e não aceita justificação narrativa: ou os critérios passam, ou a mudança não sobe.

Este desenho inverte o fluxo de confiança convencional. Em vez de confiar no agente e verificar depois de o dano estar feito, o sistema desconfia por padrão e exige que a mudança prove o seu valor contra critérios que existiam antes dela. E os critérios não pertencem ao agente: pertencem à instituição. Um agente não pode afrouxar o portão por onde passa — essa separação é o que mantém o portão um portão.

Pilar 5 — Reversão automática: todo o passo tem volta

O último pilar é o que torna os outros quatro sustentáveis na prática: a reversibilidade. As mudanças promovidas são registadas de forma que qualquer promoção possa ser desfeita — automaticamente, quando o estado posterior ao portão se mostra inválido, ou por decisão auditada, quando a instituição escolhe reverter. Não existe mudança de mão única.

A reversão automática transforma o custo do erro. Em sistemas sem reversão, cada falha de agência é um incidente de recuperação manual — caro, lento e sujeito a erro humano adicional. Em sistemas com reversão nativa, a falha é um evento administrado: o estado volta ao último ponto válido, o registo do episódio alimenta a revisão, e a operação continua. É a diferença entre uma instituição que receia dar agência aos seus sistemas e uma que pode dar agência porque sabe desfazer.

O ciclo completo: delegar, executar, revisar, promover, reverter se preciso

Os cinco pilares operam como um ciclo, não como uma lista. A instituição delega uma tarefa com escopo e orçamento; a entidade executa em isolamento; a produção passa por revisão independente; o que sobrevive à revisão atravessa o portão de testes; o que atravessa é promovido com reversão armada; e cada etapa — incluindo as falhas, os orçamentos estourados e as revisões divergentes — entra na trilha de auditoria permanente.

O resultado é uma propriedade que consideramos a mais importante de todas: autoridade reconstruível. Meses depois, um auditor pode reconstituir o que foi delegado, por quem, com que orçamento, o que foi produzido, quem revisou, o que o portão mediu, o que subiu e o que voltou. Agência governada não é agência vigiada com desconfiança — é agência cujo exercício deixa rasto suficiente para que a confiança seja uma conclusão, não um ato de fé.

Porque é que isto importa agora

A pressão para dar agência a sistemas de IA só vai crescer: é onde está o valor operacional — tarefas completas executadas de ponta a ponta, não respostas decorativas. As instituições que capturarem esse valor com segurança serão as que tiverem construído a estrutura de governança antes de a pressão chegar — porque sandbox, orçamento, revisão, portão e reversão não são recursos que se improvisam depois do primeiro incidente.

É esta a infraestrutura que a Demix constrói e opera nas suas próprias entidades — as mesmas que desenvolvem, testam e mantêm os sistemas descritos nas nossas publicações — e que oferece como base para entidades de IA institucionais: agência real, contida por construção, verificada por independência e reversível por desenho. Autonomia que uma organização pode subscrever.