AHG Plugins para AtoM — 02: ahgAiCompliancePlugin: quando a IA passa a deixar evidências de sua própria atuação

 

AHG Plugins para AtoM — 02

ahgAiCompliancePlugin: quando a IA passa a deixar evidências de sua própria atuação

Por Daniel Flores
Líder do Grupo de Pesquisa PDS & Ged/A — UFAL

No primeiro estudo desta série, examinamos o ahgAIPlugin e uma questão nos pareceu inevitável: se a Inteligência Artificial passa a participar do processamento dos documentos e da produção de novas informações sobre eles, como registrar o que a IA fez?

Esta pergunta desloca nossa atenção.

Já não estamos tratando apenas de reconhecimento de entidades, OCR/HTR, sumarização, tradução ou geração assistida de descrições.

Estamos diante de um problema de proveniência.

Se uma máquina produziu uma informação que posteriormente será utilizada em um sistema arquivístico, precisamos conseguir reconstruir seu percurso.

Foi a partir dessa perspectiva que examinamos o desenvolvimento do ahgAiCompliancePlugin, no ecossistema de extensões AHG para AtoM.

E o que encontramos é particularmente interessante.

---

De “usar IA” para “prestar contas sobre o uso da IA”

Há uma diferença importante entre duas arquiteturas.

Na primeira:

documento → IA → resultado

Na segunda:

documento → IA → resultado + evidência verificável do processamento

A segunda é muito mais próxima das necessidades de ambientes institucionais.

O AHG está desenvolvendo uma infraestrutura para registrar as inferências realizadas pelos serviços de IA por meio de uma cadeia de AI inference receipts, utilizando assinatura digital Ed25519 e canonicalização JCS (RFC 8785).

No PSIS/AtoM, essa arquitetura já aparece materializada com tabelas específicas para registro de inferências e chaves de assinatura, além de um mecanismo para disponibilização da chave pública institucional.

A ideia é poderosa:

a IA não deve apenas produzir um resultado; sua atuação deve deixar uma evidência verificável.

---

O que é um “inference receipt”?

Podemos compreender, de forma simplificada, como um recibo criptograficamente verificável de uma inferência realizada por IA.

Não se trata simplesmente de escrever em um log:

“A IA processou este documento.”

A proposta é muito mais interessante.

O sistema pode produzir uma evidência associada à operação realizada, permitindo verificar posteriormente sua integridade.

Isso cria uma nova camada de informação:

documento

→ operação de IA

→ resultado

→ recibo da inferência

A operação passa, portanto, a fazer parte da história computacional daquele resultado.

E isso é particularmente relevante quando pensamos em ambientes nos quais as informações precisam ser auditáveis.

---

Por que isso interessa à Arquivologia?

Porque estamos acostumados a perguntar:

quem produziu o documento?

quando?

em qual contexto?

qual sua proveniência?

quais transformações sofreu?

quem o custodiou?

Agora precisamos começar a formular novas perguntas:

qual sistema processou este documento?

qual modelo de IA foi utilizado?

qual versão?

qual operação foi realizada?

qual resultado foi produzido?

esse resultado foi posteriormente modificado?

quem o validou?

qual evidência permite demonstrar que aquele resultado corresponde ao processamento registrado?

A transformação digital está introduzindo uma nova dimensão de proveniência:

a proveniência do processamento computacional.

---

Isso é cadeia de custódia?

Aqui precisamos ser rigorosos.

Não devemos simplesmente afirmar que um recibo criptográfico é, por si só, uma Cadeia de Custódia Digital Arquivística.

São níveis diferentes.

A cadeia de custódia arquivística envolve uma dimensão institucional, documental e contextual muito mais ampla.

Um recibo de inferência registra uma operação computacional.

Ele pode constituir evidência dentro de uma cadeia de custódia, mas não substitui a cadeia de custódia.

Essa distinção é importante.

Podemos pensar:

CCDA

como a estrutura mais ampla de continuidade, custódia, responsabilidade e autenticidade;

e

inference receipt

como uma evidência específica sobre uma operação computacional realizada em determinado momento.

Essa composição nos parece muito mais consistente.

---

E surge outra pergunta: o que exatamente foi produzido?

Imagine um documento digital preservado em um RDC-Arq.

A partir dele, um sistema executa:

OCR

Depois:

NER

Depois:

sumarização

Depois:

tradução

Depois:

embedding

Cada resultado é uma nova informação.

Mas nenhuma dessas operações deveria ser confundida com o documento original.

Podemos representar:

OBJETO PRESERVADO
        │
        ├── OCR
        │    └── receipt
        │
        ├── NER
        │    └── receipt
        │
        ├── HTR
        │    └── receipt
        │
        ├── SUMARIZAÇÃO
        │    └── receipt
        │
        └── EMBEDDING
             └── receipt

O resultado é uma espécie de histórico computacional das derivações.

E é aqui que a discussão começa a ficar particularmente interessante para a Preservação Digital Sistêmica.

---

C2PA entra justamente nesse ponto

O desenvolvimento do AHG também está avançando para C2PA 2.1 — Coalition for Content Provenance and Authenticity.

A proposta registrada para o ecossistema PSIS/AtoM prevê um pacote específico de C2PA, com componentes para construção de manifestos, claims, assertions, codificação CBOR e um serviço de C2PA.

Também está prevista uma tabela própria para os manifestos e a geração de sidecars de proveniência para conteúdos tocados por IA.

Aqui encontramos algo que merece atenção especial.

C2PA não é um substituto da proveniência arquivística.

Sua finalidade é outra: estabelecer mecanismos técnicos para registrar e verificar informações de procedência e transformação de conteúdos digitais.

Mas sua combinação com modelos arquivísticos pode ser extremamente promissora.

---

Uma possível arquitetura de camadas

Nossa leitura é que não devemos tentar transformar uma tecnologia em substituta da outra.

Podemos pensar em camadas:

OAIS

organiza as funções do sistema de preservação.

PREMIS

registra informações de preservação e eventos.

CCDA

estrutura a discussão arquivística sobre custódia, autenticidade e continuidade.

C2PA

registra e permite verificar determinados aspectos da proveniência técnica do conteúdo.

Inference Receipts

registram operações de inferência computacional de forma verificável.

AtoM

mantém a representação e o acesso arquivístico.

O resultado não é uma tecnologia única.

É uma arquitetura de evidências.

---

O aspecto criptográfico é importante

Um dos pontos que consideramos tecnicamente relevantes é o uso de Ed25519 para assinatura e JCS/RFC 8785 para canonicalização no projeto inference-receipts.

Isso significa que a proposta não depende apenas de um registro textual do tipo:

“confie no banco de dados porque ele diz que a IA fez isso”.

Existe a preocupação de produzir uma evidência que possa ser posteriormente verificada.

Isso muda qualitativamente o problema.

Não estamos falando apenas de:

logging

mas de:

evidência verificável da operação.

O repositório inference-receipts é apresentado pelo AHG justamente como uma cadeia de recibos de inferência resistente a adulteração (tamper-evident), alinhada ao Artigo 12 do EU AI Act.

---

E por que o EU AI Act aparece nessa história?

Aqui existe uma mudança de contexto que não pode ser ignorada.

O desenvolvimento do ahgAiCompliancePlugin está explicitamente relacionado às exigências do EU AI Act, incluindo o Artigo 12, relativo à manutenção de registros (record-keeping), e o Artigo 14, relacionado à supervisão humana em determinados sistemas de IA.

No PSIS, o AHG registrou uma implementação que inclui tabelas de logs de inferência, chaves de assinatura e uma cadeia de recibos; também foi planejada uma camada de supervisão com políticas, possibilidade de interromper serviços de IA, atestação do operador e registro de decisões de revisão.

Isso é importante porque demonstra que compliance não está sendo tratado apenas como documentação administrativa.

Está sendo transformado em componente da arquitetura do software.

---

E isso nos leva à supervisão humana

Há outro aspecto que merece destaque.

Uma arquitetura de IA institucional precisa responder não apenas:

“Qual foi o resultado?”

Mas também:

“Quem teve autoridade para aceitar, rejeitar ou modificar esse resultado?”

O desenvolvimento do AHG para supervisão humana contempla justamente elementos como:

• políticas por serviço de IA;

• possibilidade de halt/resume;

• atestação do operador;

• registro da decisão de revisão;

• possibilidade de dupla revisão em determinados casos;

• registro dessas mudanças na cadeia de evidências.

Para nós, isso é particularmente relevante.

Porque introduz uma dimensão que muitas implementações de IA simplesmente ignoram:

a governança da decisão humana sobre o resultado algorítmico.

---

O arquivista entra onde?

Essa é uma questão que consideramos central.

Não defendemos uma visão na qual o arquivista simplesmente “confirma” aquilo que a IA produziu.

A questão é mais profunda.

O arquivista precisa conseguir compreender:

qual informação foi extraída;

qual foi inferida;

qual foi transformada;

qual foi validada;

qual foi rejeitada;

qual foi incorporada à descrição;

qual permaneceu apenas como informação auxiliar.

Isso significa que a interface do sistema também precisa evoluir.

Não basta existir uma infraestrutura criptográfica escondida no servidor.

A proveniência precisa ser inteligível para quem governa o acervo.

---

Nossa principal crítica

É justamente aqui que fazemos uma ressalva.

Uma cadeia criptograficamente verificável não é automaticamente uma cadeia arquivisticamente significativa.

Podemos ter um recibo perfeitamente assinado dizendo:

modelo X processou objeto Y e produziu resultado Z.

Mas isso ainda não responde:

por que o processamento foi realizado?

qual era sua finalidade arquivística?

qual relação esse resultado possui com o contexto de produção?

qual autoridade permitiu sua incorporação?

qual foi o critério de validação?

qual significado esse resultado possui para a descrição?

A criptografia garante determinadas propriedades de integridade e autenticidade da evidência.

Ela não produz, sozinha, contexto arquivístico.

Essa distinção é essencial.

---

A questão que fica para a PDS

É justamente aqui que encontramos uma agenda de pesquisa.

Se o documento digital preservado é uma evidência arquivística, e se a IA passa a produzir sucessivas camadas derivadas sobre esse documento, precisamos começar a pensar em uma cadeia de proveniência das próprias transformações computacionais.

Não apenas:

“onde está o documento?”

Mas também:

“qual é a história computacional verificável das informações que hoje utilizamos para encontrá-lo, compreendê-lo e representá-lo?”

Essa pergunta poderá se tornar cada vez mais importante.

---

Nossa leitura do ahgAiCompliancePlugin

O que nos parece mais significativo nessa extensão não é o fato de ela atender a uma determinada legislação.

É o movimento arquitetural que ela representa:

IA → registro → evidência → assinatura → verificação → supervisão → decisão.

Isso aproxima a Inteligência Artificial de uma lógica que a Arquivologia conhece muito bem:

responsabilidade, rastreabilidade, evidência e contexto.

Ainda há muito a desenvolver.

E há, inclusive, questões conceituais que precisam ser amadurecidas.

Mas consideramos importante acompanhar esse movimento desde agora.

Porque talvez estejamos diante de uma nova categoria de evidência:

a evidência do próprio processamento computacional do documento.

E essa questão certamente não será resolvida apenas pelos desenvolvedores de software.

Ela também é uma questão para a Arquivologia.

---

PDS & Ged/A — UFAL

É a partir dessa perspectiva que continuaremos nossa análise dos AHG Plugins para AtoM.

Nos próximos estudos, seguiremos examinando individualmente as extensões, suas arquiteturas, dependências, possibilidades de implantação e limitações, procurando sempre estabelecer o diálogo entre software, gestão documental, descrição arquivística, preservação digital, autenticidade, cadeia de custódia e acesso.

Porque, para nós, acompanhar a transformação tecnológica dos arquivos não significa apenas perguntar:

“O que o software faz?”

É preciso perguntar também:

“Que nova realidade documental esse software está produzindo — e como poderemos preservá-la, explicá-la e responsabilizá-la?”

Daniel Flores
Líder do Grupo de Pesquisa PDS & Ged/A – UFAL
Universidade Federal de Alagoas

Estudo técnico e crítico desenvolvido no âmbito das pesquisas do Grupo PDS & Ged/A.