Dal testo all’azione

Un assistente che suggerisce una risposta e un agente che invia un messaggio hanno responsabilità diverse. Prima di introdurre un agente, è utile elencare gli strumenti che può usare, i dati che può leggere e le operazioni che può avviare. La descrizione del compito deve accompagnarsi a controlli effettivi su queste possibilità.

Il permesso deve stare fuori dal modello

Chiedere a un modello di non fare qualcosa non equivale a impedirglielo. Le autorizzazioni vanno applicate dagli strumenti e dai sistemi che eseguono le azioni. Un agente incaricato di leggere documenti, per esempio, può avere accesso in lettura a una raccolta specifica senza avere la possibilità di cancellarla o condividerla all’esterno.

Approvare dove cambia il rischio

Non ogni passaggio richiede un intervento umano. Conviene distinguere attività ordinarie da operazioni con conseguenze più ampie, come una modifica in produzione o l’invio di dati a un nuovo destinatario. Per queste ultime servono passaggi di approvazione comprensibili e una traccia delle decisioni.

Il punto di partenza di AgIPS

AgIPS propone di collegare il controllo delle azioni al contesto del compito. Una sperimentazione deve verificare il rispetto dei permessi, ma anche la possibilità di completare il lavoro legittimo. Bloccare troppo può rendere un sistema inutilizzabile quanto bloccare troppo poco può lasciarlo esposto.

Per approfondire