Controllo e governance
Cosa il sistema è autorizzato a fare — e cosa no
Un sistema affidabile non nasce da ciò che gli è permesso, ma da ciò che gli è vietato.
Tipi di attività e livello di automazione
| Tipo di attività | Cosa fa il sistema | Controllo umano |
|---|---|---|
| Rischio bassoclassificare una richiesta in arrivo, cercare informazioni, risposte standard | Agisce da solo | Controlli a campione |
| Rischio mediopreparare un preventivo, gestire una richiesta complessa | Prepara e propone | Approvazione richiesta |
| Rischio altocontratti, pagamenti significativi, decisioni legali o sulle persone | Analizza e assiste | Decide una persona, sempre |
Mai automatico, per nessun cliente, in nessuna configurazione: firmare contratti, pagamenti significativi, decisioni legali, decisioni sulle persone — assunzione, licenziamento, valutazione.
Uso amatoriale contro lavoro professionale
| Uso amatoriale dell'AI | Come lavoriamo | |
|---|---|---|
| Ambito | Un assistente generico, uguale per tutti | Agenti dedicati a un servizio e a un processo specifico |
| Contesto | Non conosce l'azienda | Lavora sui documenti, sul metodo e sul linguaggio dell'azienda |
| Risultato | “Sembra utile”, niente misurato | Un processo che costava ore si chiude in minuti — e il sistema misura quello che fa |
| Metodo | Cambia da solo; inventa quando mancano i dati | Distingue ciò che il metodo prevede da ciò che è rielaborazione, cita le fonti, dichiara la lacuna — e non cambia mai il metodo da solo |
| Validazione | Nessun gate: l'output esce | Validazione umana bloccante su tutto ciò che esce |
| Controllo | Nessuno sa cosa fa l'agente, chi lo ha autorizzato, a cosa può accedere | Inventario degli agenti e dei loro permessi, permessi per ruolo, tracce fuori dalla portata dell'agente |
| Robustezza | Il controllo si rompe al secondo tentativo | I controlli reggono ai tentativi ripetuti |
| Segreti | Le chiavi finiscono nel contesto dell'agente | L'agente vede un riferimento, non il segreto |
| Dati | Escono, e nessuno sa dove | Dove vive il materiale si decide con il cliente |
| Incidente | Viene scoperto dopo che è accaduto | Chi rileva, chi decide, chi notifica e in quanto tempo — scritto in anticipo |
La differenza non è la qualità dell'output. È la governabilità.
Sicurezza e controllo
Nessun privilegio per impostazione predefinita, accesso minimo, tracciabilità completa.
Permessi di un ruolo
Esempio: assistenza clienti
Può
- leggere le richieste
- consultare gli ordini
- consultare i prodotti
- preparare le risposte
- inviare risposte standard
Non può
- cambiare i prezzi
- cancellare i clienti
- effettuare pagamenti
- vedere gli stipendi
- esportare l'archivio
Limiti operativi
| Rimborso sotto € 50 | il sistema può agire da solo |
| € 50 – 500 | il sistema propone, un responsabile approva |
| Oltre € 500 | il sistema non può agire — scalato a una persona |
Traccia completa
Ogni passaggio è registrato: quando è arrivata la richiesta, come è stata classificata, quali dati sono stati letti, cosa è stato proposto, chi ha approvato, quando è uscita la risposta.
E non solo cosa ha fatto il sistema, ma perché, con quali dati e sotto quale autorizzazione. È la differenza tra un sistema che puoi governare e uno di cui devi fidarti.
Quattro domande che ci poniamo prima di toccare qualsiasi cosa
- Dove vivono le tracce — fuori dalla portata dell'agente, o dentro lo stesso sistema che può riscriverle?
- I controlli reggono ai tentativi ripetuti, o un secondo tentativo passa?
- Chi ha il pulsante di stop, e quanto ci è voluto davvero l'ultima volta che è stato usato?
- L'agente vede il segreto, o solo un riferimento? E chi ha concesso quel permesso?