«I nostri dati sono al sicuro?» è la prima domanda in quasi ogni progetto di IA, e spesso quella a cui si risponde con meno precisione. La risposta onesta dipende da dove i dati transitano davvero, e un sistema di IA ha lungo il percorso più tappe di quanto la maggior parte delle persone si aspetti.
I sei luoghi in cui possono finire i dati
Prendiamo un tipico assistente di conoscenza che risponde alle domande dei collaboratori sulla base di documenti interni. I dati passano attraverso:
- I sistemi sorgente: SharePoint, il DMS, l’ERP. Hanno già dei responsabili e delle regole di accesso.
- La pipeline di ingestione, che estrae i documenti e li suddivide in passaggi.
- Il modello di embedding, che trasforma ogni passaggio in un vettore per la ricerca. Se si tratta di un’API cloud, ogni documento vi transita.
- Il database vettoriale, che memorizza questi passaggi e vettori, spesso come copia di contenuti sensibili.
- Il modello linguistico, che a ogni singola richiesta riceve la domanda insieme ai passaggi recuperati.
- Log e trace, che registrano prompt e risposte per il debugging e il controllo qualità, e sono il luogo in cui i dati sensibili si accumulano più spesso senza che nessuno se ne accorga.
Ciascuna di queste tappe è un luogo di trattamento ai sensi della legge federale sulla protezione dei dati (nLPD) e del GDPR. Per ciascuna serve una risposta a tre domande: dove si trova, chi la gestisce e per quanto tempo vengono conservati i dati?
Prima i contratti
Non appena un fornitore esterno tratta dati personali per conto della sua azienda, serve un accordo sul trattamento dei dati (DPA) ai sensi dell’art. 9 nLPD e dell’art. 28 GDPR. In pratica significa:
- Un DPA con il partner di implementazione, che stabilisce cosa può vedere e fare durante il progetto.
- Un elenco dei sub-responsabili del trattamento: il fornitore cloud, il fornitore del modello, lo strumento di monitoraggio. È opportuno che approvi questo elenco e ogni sua modifica.
- Per ogni fornitore al di fuori della Svizzera e dell’UE, una verifica della base giuridica del trasferimento, ad esempio una decisione di adeguatezza o clausole contrattuali standard.
Un accordo di riservatezza (NDA) protegge i segreti commerciali; non sostituisce un DPA per i dati personali. Di solito servono entrambi.
Scelte di progettazione che mantengono i dati sotto controllo
I contratti fissano le regole; l’architettura determina quanto è in gioco. Le scelte più importanti:
Scegliere la regione con consapevolezza. I grandi fornitori cloud gestiscono data center in Svizzera, e diversi offrono modelli linguistici in regioni svizzere o dell’UE. Dove un modello sufficientemente capace non è disponibile nella regione richiesta, i modelli open-weight possono girare sulla sua infrastruttura o in un cloud svizzero.
Disattivare ciò che non serve. Molte API di modelli offrono opzioni di zero data retention ed escludono per impostazione predefinita dall’addestramento i dati dei clienti aziendali. Si faccia confermare entrambe le cose per iscritto e le configuri esplicitamente, anziché affidarsi a impostazioni predefinite che possono cambiare.
Minimizzare prima di inviare. Non tutti i campi devono raggiungere il modello. Nomi, numeri di conto e indirizzi possono spesso essere sostituiti da segnaposto prima della richiesta e ripristinati dopo. Il modello svolge comunque il suo compito; il fornitore non vede mai gli identificativi.
Rispettare le autorizzazioni esistenti. Un assistente di conoscenza non deve diventare un modo per aggirare le regole di accesso. Ogni risposta va costruita solo a partire da documenti che l’utente che pone la domanda è autorizzato a vedere, e questo va imposto al momento del recupero, non chiedendo al modello di essere discreto.
Trattare i log come dati sensibili. Mascherare i dati personali nelle trace, fissare un periodo di conservazione e limitare chi può leggerli. I log di debug conservati per sempre sono un rilievo frequente negli audit.
Pianificare l’uscita. A fine progetto i dati vengono restituiti o cancellati, comprese le copie nei database vettoriali, nei backup e negli ambienti di test, e la cancellazione viene confermata per iscritto.
Una mappa dei dati su una pagina
Prima che circolino dati reali, redigiamo una mappa del sistema su una sola pagina: ogni componente, la sua ubicazione, il suo gestore, quali dati vede e per quanto tempo li conserva. È il documento che il suo consulente per la protezione dei dati le chiederà, semplifica la tenuta del registro delle attività di trattamento e trasforma «i nostri dati sono al sicuro?» in una domanda con una risposta concreta e verificabile.