Intelligenza artificiale e sicurezza negli enti locali: lo studio del CERT-AGID

L’intelligenza artificiale è entrata ormai stabilmente anche nel lavoro quotidiano dei comuni e degli enti locali. Assistenti per la redazione degli atti, strumenti di supporto al protocollo, sistemi che aiutano a smistare le istanze o a rispondere ai cittadini: la promessa è sempre la stessa, fare le medesime cose in meno tempo e con meno risorse. Per un ente locale, che spesso opera con organici ridotti e bilanci sotto pressione, si tratta di una prospettiva più che comprensibile, quasi irresistibile. Proprio per questo, però, vale la pena fermarsi un momento e domandarsi non soltanto quanto una tecnologia sia veloce, ma quanto sia sicura, affidabile e, soprattutto, controllabile.
Uno studio recente del CERT-AGID, dedicato alle tecniche che rendono più rapidi i sistemi di intelligenza artificiale, offre uno spunto prezioso che va ben oltre il suo linguaggio tecnico. La tesi di fondo può essere riassunta in una formula semplice: una tecnologia pensata per andare più veloce può dirsi davvero sicura solo se, oltre a ridurre i tempi, non rende il comportamento del sistema opaco, instabile o difficile da verificare. Detto altrimenti, la velocità non è mai, da sola, una buona notizia: lo diventa soltanto quando resta accompagnata dal controllo.
Il ragionamento è più intuitivo di quanto sembri. Molti sistemi di intelligenza artificiale funzionano oggi come un autore affiancato da un assistente rapido: mentre l’autore scrive, l’assistente prova ad anticipare le parole successive; se indovina, si guadagna tempo, se sbaglia, la proposta viene scartata. Il punto decisivo è che l’assistente può proporre, ma l’autore deve sempre mantenere l’ultima parola. Nel momento in cui il suggeritore veloce comincia a decidere al posto dell’autore, la tecnologia smette di essere solo una questione di efficienza e diventa un problema di sicurezza. È un’immagine nata in un contesto tecnico, ma la lezione è generale e riguarda da vicino chiunque introduca l’intelligenza artificiale nei procedimenti amministrativi.
Perché tutto questo interessa in modo particolare i comuni e gli enti locali? Perché ciò che essi gestiscono non è mai neutro. Dietro un procedimento amministrativo ci sono i dati personali dei cittadini, ci sono servizi essenziali, ci sono decisioni che incidono su diritti, contributi e autorizzazioni. Un sistema che risponde in fretta ma in modo instabile, che ogni tanto perde il filo o produce esiti non ricostruibili, non è un buon affare nemmeno quando è economico. In un ente pubblico la sicurezza informatica non è un lusso riservato agli specialisti: è parte integrante del dovere di buon andamento e di tutela dei cittadini.
A questo si aggiunge un dato normativo che non può essere ignorato. La direttiva europea NIS2 in materia di sicurezza delle reti e dei sistemi informativi, recepita nel nostro ordinamento, ha ampliato in modo sensibile la platea dei soggetti tenuti a presidiare la sicurezza dei propri sistemi, includendo numerose pubbliche amministrazioni. Per molti enti locali, garantire la continuità, la resilienza e l’affidabilità dei servizi digitali non è più soltanto una buona pratica: è un obbligo di gestione del rischio, del quale occorre saper rispondere. Introdurre uno strumento di intelligenza artificiale senza aver valutato come si comporta nei momenti difficili — quando i dati sono molti, le richieste complesse, i tempi stretti — significa assumere un rischio che ricade nella responsabilità dell’ente.
Che cosa dovrebbe cercare, allora, un amministratore o un funzionario che valuti l’adozione di un sistema di intelligenza artificiale? Tre qualità, prima ancora della velocità. La prima è l’affidabilità: il sistema deve rispondere in modo stabile quando serve, senza rallentamenti improvvisi o blocchi che mettano in crisi il servizio proprio nei momenti di maggiore carico. La seconda è la verificabilità: si deve poter capire come il sistema è arrivato a un certo risultato, perché una risposta ben confezionata e apparentemente completa non equivale a una risposta corretta e controllabile. La terza è la prevedibilità: costi, tempi e comportamento del sistema devono restare entro limiti ragionevoli anche nei casi più impegnativi, senza sorprese che trasformino un’ottimizzazione in un problema.
Sul secondo punto vale la pena insistere, perché è il più insidioso. Un sistema di intelligenza artificiale può chiudere un compito con un documento formalmente ordinato e convincente, ma privo di reale sostanza. L’apparenza di completezza è, essa stessa, un rischio: chi firma un atto, chi lo pone a base di una decisione, chi lo porta di fronte a un cittadino resta pienamente responsabile della verifica, e non può trincerarsi dietro l’autorità apparente dello strumento. L’intelligenza artificiale, in un procedimento amministrativo, è un supporto, non un sostituto del giudizio: la delega può riguardare l’esecuzione di un compito, mai il controllo sul risultato.
È esattamente questo il senso di uno dei principi cardine del regolamento europeo sull’intelligenza artificiale, l’AI Act: i sistemi che incidono in modo significativo su diritti e servizi devono restare sotto una sorveglianza umana effettiva, essere robusti e trasparenti e consentire di ricostruire il proprio funzionamento. Non è un adempimento formale, ma la traduzione giuridica di un’esigenza di buon senso: chi utilizza uno strumento potente deve poterne rispondere, e per poterne rispondere deve poterlo comprendere e controllare. La sorveglianza umana non rallenta l’innovazione, la rende sostenibile.
In concreto, per un ente locale tutto questo si traduce in poche domande, semplici ma decisive, da porsi prima di adottare qualsiasi soluzione. Non basta chiedersi «È più veloce?» oppure «Costa meno?». Occorre chiedersi anche: il sistema resta sotto controllo? È possibile verificare come lavora? Mantiene l’operatore umano come arbitro finale delle decisioni? Resta stabile anche quando le richieste si fanno complesse? I costi e i tempi sono prevedibili? Sono interrogativi che dovrebbero entrare nei capitolati di gara, nelle valutazioni di rischio e nella formazione del personale, molto prima che nella cronaca degli entusiasmi tecnologici. E riguardano tanto i grandi enti quanto i piccoli comuni, dove spesso mancano competenze specialistiche interne e dove, proprio per questo, la prudenza nella scelta degli strumenti diventa la prima forma di sicurezza.
Vi è infine un profilo che nessun ente può trascurare, quello della protezione dei dati personali. I sistemi di intelligenza artificiale si nutrono di dati, e negli enti locali quei dati appartengono ai cittadini. Trasferirli verso servizi esterni, affidarli a sistemi di cui non si conosce il funzionamento, utilizzarli senza una chiara base giuridica e senza adeguate garanzie non è mai un’operazione neutra: chiama in causa la riservatezza, la sicurezza del trattamento e la fiducia dei cittadini nell’amministrazione. Scegliere soluzioni che consentano un maggiore controllo sui dati — anche a costo di rinunciare a qualche punto di velocità o di comodità — non è soltanto una cautela tecnica: è un atto di responsabilità istituzionale.
La lezione che viene dallo studio del CERT-AGID, e che gli enti locali possono fare propria al di là di ogni tecnicismo, è in fondo semplice. Efficienza e sicurezza non sono due esigenze contrapposte da bilanciare a fatica: sono due modi di misurare la stessa cosa, ossia la capacità di un sistema — e dell’organizzazione che lo utilizza — di mantenere il controllo di ciò che fa. Un’amministrazione che adotta l’intelligenza artificiale sapendo governarla, verificarla e, se necessario, fermarla non rinuncia all’innovazione: la rende affidabile. E in un ente pubblico l’affidabilità non è un dettaglio, è il fondamento stesso della fiducia dei cittadini.