Il punto è capire se l’IA riuscirà a rivoluzionare la Pubblica Amministrazione, offrendo servizi più efficienti, più funzionali e più efficaci, oppure se la PA riuscirà a rendere la IA meno intelligente e più burocratizzata; passeremo dalla IA alla IB. Si spera che la IA non venga inghiottita dalle pastoie  burocratiche, tipiche della PA che determineranno diversi impedimenti connessi ai vincoli per le forniture e i servizi.

Controllo della scatola nera

Una delle prime questioni e forse la più importante riguarda la trasparenza degli algoritmi — specie quelli di IA generativa; il Regolamento (UE) 2024/1689 (AI Act) è stato ideato proprio per affrontare queste tematiche e stabilire un quadro normativo armonizzato che garantisca che i sistemi di IA siano sicuri, trasparenti, etici e rispettosi dei diritti fondamentali.

Come la PA dovrà verificarli (secondo l’AI Act e le Linee Guida)

La PA dovrà esaminare attentamente i dataset utilizzati per addestrare l’IA, assicurandosi che siano pertinenti, completi, rappresentativi e privi di bias discriminatori. Questo include la verifica della diversità e dell’equilibrio dei dati.

Verifica dei bias (pregiudizi) nell’algoritmo

I sistemi di IA apprendono dai dati, quindi se i dati di addestramento riflettono pregiudizi sociali, storici o culturali preesistenti (ad esempio, discriminazioni di genere, etnia, età), l’algoritmo finirà per riprodurre e persino amplificare tali bias nelle sue decisioni, portando a esiti discriminatori o iniqui per gli utenti.

Metodologie di Pre-processing, In-processing e Post-processing

Tre  paroloni che stanno ad indicare, nel caso del Pre-processing, la pulizia e bilanciamento dei dati prima dell’addestramento, l’In-processing, ovvero l’utilizzo di algoritmi “fairness-aware” che bilanciano accuratezza ed equità e il Post-processing, vale a dire la correzione delle decisioni dell’algoritmo a valle, applicando pesi diversi ai risultati o conducendo audit regolari.

Test di resistenza (Adversarial Testing)

Soprattutto per i sistemi ad alto rischio, saranno necessari test per verificare la robustezza del sistema e la sua resilienza a manipolazioni o attacchi che potrebbero portare a esiti discriminatori.

Valutazione d’impatto sui diritti fondamentali (FRIA)

Prima dell’impiego di sistemi di IA ad alto rischio, la PA dovrà effettuare una valutazione d’impatto sui diritti fondamentali, comunicandola alle autorità di vigilanza. Questo serve a identificare e mitigare potenziali rischi di discriminazione.

Assoluta Trasparenza dell’algoritmo

La IA, sulla base delle prescrizioni dell’AI Act, dovrà spiegareun’adeguata tracciabilità e spiegabilità. Questo significa che la PA dovrà essere in grado di interpretare l’output del sistema e, quando possibile, fornire una motivazione comprensibile delle decisioni prese dall’IA.

Documentazione tecnica dettagliata

I fornitori e gli utilizzatori di IA (in particolare la PA), in ossequio al principio di trasparenza, dovranno predisporre una documentazione tecnica che descriva finalità, modalità d’uso, architettura, algoritmi e dataset utilizzati, nonché le misure adottate per garantire equità, sicurezza e accuratezza. Se l’IA interagisce direttamente con le persone, gli utenti dovranno essere informati del fatto che stanno interagendo con un sistema di IA. Nel caso di decisioni automatizzate significative, dovranno essere garantiti i diritti previsti dal GDPR (informazione, accesso, rettifica, opposizione).

Ingenti Investimenti

L’adozione dell’IA nella PA comporterà ingenti investimenti, da utilizzare sia nell’ambito delle infrastrutture che nella formazione. Alle descritte criticità va detto che le PA rischiano di finire nelle mani di pochi grandi fornitori (il cosiddetto vendor lock-in), da cui potrebbero derivare scarsi aggiornamenti e adattamenti futuri. In più, il MePa e le convenzioni Consip, strumenti nati per semplificare gli acquisti pubblici, notoriamente poco flessibili al passo dell’innovazione, potrebbero produrre tempi lunghi per l’adeguamento, cataloghi non aggiornati e prodotti non corrispondenti.

Secondo la Commissione Europea (“Contro il lock-in: costruire sistemi TIC aperti facendo un uso migliore degli standard negli appalti pubblici, Com (2013) 455 final del 25 giugno 2013”) il lock-in si verifica quando l’amministrazione non può cambiare facilmente fornitore alla scadenza del periodo contrattuale perché non sono disponibili le informazioni essenziali sul sistema che consentirebbero a un nuovo fornitore di subentrare al precedente in modo efficiente.

Un nuovo modello organizzativo e culturale

Servirà quindi un approccio partecipativo, in cui le soluzioni siano co-progettate con gli utenti finali, adattate nel tempo e orientate alla costruzione di fiducia tra istituzioni e cittadini. Occorrerà creare vetrine tematiche nel MePa con soluzioni certificate, rafforzare e rendere più agili le norme per i progetti pilota innovativi e un maggiore ricorso ad un affido diretto mediante procedura negoziata non preceduta per gli acquisti nell’ambito della ICT (Information & Communication Technology).

Tutto questo non trova al momento supporto perché per le amministrazioni potrebbe apparire più semplice ed efficiente rimanere nella comfort-zone di un rapporto consolidato e soddisfacente, senza avere il problema di affrontare continuamente i cambi di fornitore e tutte le attività propedeutiche, prima tra tutte la progettazione e lo svolgimento della procedura di gara.

Il confronto trasparente con gli operatori economici può consentire all’amministrazione di scoprire che, in realtà, l’affrancamento da una situazione di lock-in è possibile e risulta quanto mai opportuna. La gestione strategica dei fornitori nella PA è una leva essenziale per una transizione digitale efficace. Il modo in cui gli enti pubblici imposteranno e gestiranno le relazioni con i partner tecnologici determinerà l’autonomia futura e la capacità di innovare, in un contesto in cui la tecnologia evolve rapidamente.