Algoritmi al servizio della PA: efficienza, diritti e sfide giuridiche

Analizziamo allora l’evoluzione del rapporto tra PA e algoritmi, partendo alcune recenti sentenze giurisprudenziali, al fine di delineare un quadro delle applicazioni pratiche che possono essere adottate anche all’interno di un ente locale.

Dall’informatica servente all’IA predittiva: un cambio di paradigma

Tradizionalmente, l’informatica nella PA ha svolto un ruolo di supporto all’azione umana, fungendo da strumento per la gestione di dati e la redazione di atti. Si trattava di un’informatica “servente-deduttiva”, ausiliaria rispetto alla decisione del funzionario. Oggi, si assiste a un cambiamento radicale con l’affermarsi di un’informatica c.d. “predittiva”, capace di elaborare in modo autonomo decisioni sulla base di algoritmi e analisi di dati. Questo passaggio comporta un superamento, almeno parziale, della decisione umana, aprendo nuove opportunità ma anche nuove sfide.

La natura della decisione algoritmica e le sue implicazioni

Una fondamentale distinzione è quella tra l’atto amministrativo “in forma elettronica”, creato da un operatore umano col supporto di strumenti informatici, e l’atto amministrativo “ad elaborazione elettronica”, il cui contenuto è determinato autonomamente dall’agente autonomo tramite algoritmi e analisi dei dati. Quest’ultimo tipo di atto, definito dalla dottrina “decisione algoritmica“, vede l’intervento umano a monte, nella definizione delle regole e nell’inserimento dei dati, e a valle, nel controllo del risultato.

L’automazione promette un miglioramento significativo dell’efficienza, della tracciabilità e della prevedibilità delle decisioni amministrative, oltre a una potenziale riduzione dei fenomeni di mala amministrazione. Un ulteriore vantaggio risiede nella spinta alla semplificazione dei processi, con la necessità di definire criteri chiari e univoci per l’elaborazione delle decisioni automatizzate, promuovendo una maggiore uniformità nell’applicazione del diritto.

Non è un caso spesso siano stati affidati alla sola tecnologia quegli atti cosiddetti a bassa discrezionalità, come gli atti richiedenti accertamenti tecnici, rispetto ai quali è possibile prevedere un limitato ventaglio di soluzioni a partire da presupposti specifici e predefiniti.

Tuttavia, l’impiego di algoritmi nell’attività amministrativa non è esente da rischi. La delega di decisioni a sistemi automatizzati solleva interrogativi sulla trasparenza, sulla responsabilità e sul rispetto dei principi fondamentali dell’azione amministrativa, come la partecipazione e la motivazione. Si pone inoltre il problema dei vizi che possono affliggere un provvedimento basato su algoritmo, che possono derivare da malfunzionamenti del sistema, errori nell’inserimento dei dati o vizi intrinseci alla logica dell’algoritmo stesso. A fronte di tali vizi, si applicano i rimedi generali previsti dalla L. 241/1990, seppure resta in questi casi la criticità di individuare il responsabile dell’illegittimità del provvedimento adottato rispetto al caso di un normale provvedimento amministrativo; vale comunque il principio ricavabile dall’art. 28 Cost., di imputabilità dell’atto all’amministrazione di provenienza, anche quando non sia individuabile il funzionario che lo abbia materialmente adottato.

Il dibattito giurisprudenziale: dall’approccio restrittivo all’apertura condizionata

Il dibattito giurisprudenziale sull’uso degli algoritmi nella PA ha visto un’evoluzione significativa nel corso degli anni. Inizialmente, si è assistito a un approccio restrittivo, che limitava l’utilizzo dell’informatica a una funzione meramente strumentale. Il TAR Lazio, con la sentenza n. 10964/2019, ha affermato che le procedure informatiche non possono soppiantare l’attività cognitiva e di giudizio del funzionario, sottolineando l’importanza dell’istruttoria umana per garantire la partecipazione e il confronto con i cittadini.

Successivamente, il Consiglio di Stato ha aperto a un utilizzo più ampio degli algoritmi, pur ponendo delle precise condizioni. Con la sentenza n. 2270/2019, si è riconosciuta l’utilità dell’automazione, soprattutto per le attività vincolate, ma si è ribadita la necessità che la “regola algoritmica” sia conoscibile e soggetta al controllo del giudice. L’algoritmo viene definito come un “atto amministrativo informatico”, con la conseguente necessità di trasparenza e sindacabilità.

Un punto di svolta è rappresentato dalle sentenze gemelle n. 8472, 8473 e 8474 del 2019 del Consiglio di Stato, che hanno esteso l’ammissibilità dell’uso degli algoritmi anche all’attività discrezionale. In queste pronunce, si richiamano principi di diritto sovranazionale, in particolare quelli derivanti dal Regolamento UE 2016/679 (c.d. GDPR) e quelli ricavabili dalla CEDU, per arrivare a definire alcuni principi della “legalità algoritmica”:

• Conoscibilità e comprensibilità: non solo l’algoritmo deve essere conoscibile in tutti i suoi aspetti (autori, procedimento di elaborazione, meccanismo di decisione, dati rilevanti), ma deve essere anche comprensibile, traducendo la “formula tecnica” in “regola giuridica”, accessibile ai cittadini e al giudice. Il GDPR rafforza questo principio con gli articoli 13, 14 e 15, che prevedono il diritto all’informazione e all’accesso ai dati personali, con particolare attenzione ai processi decisionali automatizzati.
• Non esclusività della decisione algoritmica (riserva d’umanità): è necessario un contributo umano in diverse fasi del processo decisionale, dalla definizione dei criteri all’approvazione finale, per garantire la responsabilità dell’amministrazione e il controllo sulla decisione automatica.
• Non discriminazione algoritmica: l’algoritmo non deve produrre effetti discriminatori, utilizzando procedure matematiche e statistiche appropriate per la profilazione e mettendo in atto misure per minimizzare il rischio di errori e garantire la sicurezza dei dati personali, in linea con il considerando 71 del GDPR.

Le successive pronunce del Consiglio di Stato (n. 881/2020 e n. 1206/2021) hanno confermato e ribadito i principi del 2019, sottolineando l’importanza della trasparenza e dell’imputabilità della decisione all’amministrazione.

Un problema rilevante, infatti, è rappresentato dalla difficoltà di comprensione degli algoritmi, spesso considerati delle “scatole nere” anche per gli stessi programmatori. Questa opacità contrasta con le garanzie di partecipazione al procedimento e di accesso agli atti. Inoltre, l’automazione può portare a una deresponsabilizzazione dei funzionari, se non vi è un controllo umano effettivo.

Si è pertanto affermato che la riservatezza delle imprese produttrici degli algoritmi non può prevalere sulla necessità di trasparenza nei confronti della PA e dei cittadini.

Sul piano processuale, fondamento e corollario di tali principi è l’obbligo di garantire l’assoluta equivalenza della tutela giurisdizionale tra decisione algoritmica e decisione umana (c.d. effetto utile).

I predetti tre principi hanno poi trovato una prima trasposizione normativa nell’art. 30, comma 3, del d.lgs. 31 marzo 2023, n. 36 (nuovo codice dei contratti pubblici), in tema di “uso di procedure automatizzate nel ciclo di vita dei contratti pubblici”; attualmente a seguito dell’emanazione del Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, le bozze del DDL per l’introduzione di disposizioni e la delega al Governo in materia di intelligenza artificiale ribadiscono che “L’utilizzo dell’intelligenza artificiale avviene in funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona che resta l’unica responsabile dei provvedimenti e dei procedimenti in cui sia stata utilizzata l’intelligenza artificiale” .

Queste prime declinazioni normative consentono a qualsiasi ente locale di fare applicazione pratica di tali procedure automatizzate; nel concreto esistono prassi già largamente utilizzate dagli enti che prevedono la predisposizione di criteri predeterminati e punteggi per l’assegnazione di beni e servizi in tutte le procedure ad evidenza pubblica: si tratta di rendere automatici i processi di attribuzione e verifica di tali punteggi con strumenti informatici purché, come evidenziato anche dalla giurisprudenza, permanga a monte ed a valle un controllo umano.

Bilanciare efficienza, discrezionalità e controllo giurisdizionale è la chiave

L’automazione dell’attività amministrativa con l’uso di algoritmi offre indubbie opportunità di modernizzazione e miglioramento, ma richiede un’attenta riflessione sulle implicazioni giuridiche e sulla necessità di un quadro normativo e giurisprudenziale che garantisca il rispetto dei principi fondamentali dell’azione amministrativa. Il bilanciamento tra efficienza, discrezionalità e controllo giurisdizionale rappresenta la sfida principale per un’Amministrazione 4.0 che sia al servizio dei cittadini e non un mero esecutore di calcoli automatici.

Note

[1]Secondo la giurisprudenza amministrativa, cfr. Tar Campania n. 7003 del 2022, l’algoritmo informatico è una sequenza finita e ordinata di operazioni di calcolo che permettono di risolvere, in maniera determinata, un dato problema.