“L’amministrazione digitale. Quotidiana efficienza e intelligenza delle scelte” è il titolo del volume a cura dei proff. J.B. Auby, G. De Minico e G. Orsoni che raccoglie le riflessioni emerse nell’omonimo convegno, tenutosi a Napoli il 9 e il 10 maggio del 2022, su iniziativa della Prof.ssa De Minico nell’ambito degli eventi organizzati periodicamente dalla rete di ricerca internazionale “Venice Network on Smart Cities & Digital Administration”[1].
Focus del convegno (e dunque anche del volume in questione) è “la tendenza alla digitalizzazione dell’azione pubblica”[2], analizzata, in particolare, rispetto a tre diverse macroaree: le procedure amministrative, la giustizia e la produzione normativa.
- La digitalizzazione delle procedure amministrative
Il primo aspetto è la necessità di un’amministrazione sempre più digitale, al passo con l’inarrestabile processo tecnico, capace di “rispondere a criteri di uguaglianza e ragionevolezza”[3] (art. 3 Cost.) e ai principi di buon andamento e imparzialità (art. 97 Cost.) richiesti dalla Costituzione. Proprio in questa prospettiva vanno inquadrate le misure adottate dal Governo attraverso l’Agenzia per l’Italia Digitale (AgID) per “facilitare la diffusione della digitalizzazione primariamente nella pubblica amministrazione”[4], nella consapevolezza ormai che “affinché tale transizione si compia, non è sufficiente collezionare dati ed introdurre mezzi hi-tech, ma occorre una vera e propria rimodulazione strutturale”[5].
Tale trasformazione costituirà anche un’occasione per il rinnovamento dell’interazione fra pubblico e privato, rendendo tale relazione “più fluida e partecipata, interloquente piuttosto che sordamente autoritativa”[6] e valorizzando anche quelle esperienze di “collaborazione e data sharing pubblico-privato”[7], che per l’orientamento comunitario dovrebbero essere alla base di un corretto modello di sviluppo digitale.
Al tempo stesso, però, l’utilizzo in questo settore di strumenti digitali, e dell’Intelligenza Artificiale (IA) in particolare, non è esente da criticità, soprattutto a causa di un quadro normativo piuttosto lacunoso.
In via preliminare, va stabilito se sia automatizzabile l’intera attività amministrativa, incluso anche il momento deliberativo-decisorio, o solo la fase istruttoria[8]. Se si accetta la prima opzione, ci chiederemo se possa essere oggetto di una decisione algoritmica sia il provvedimento discrezionale che quello vincolato. In secondo luogo, occorre precisare quale supervisione umana debba essere assicurata e quali garanzie vadano riconosciute al privato coinvolto nel procedimento. Infine, vanno definiti i profili di responsabilità sul provvedimento finale[9].
Questi interrogativi sono quanto mai importanti soprattutto alla luce delle criticità intrinseche dello strumento tecnico utilizzato: la possibile lesione di diritti e principi fondamentali (primi fra tutti il diritto alla privacy[10] ed il principio di legalità[11]), il rischio di bias (sia cognitivi, sia derivati) che possono condizionare la buona riuscita dell’esito algoritmico (rendendo, dunque, discriminatorio il risultato finale) e la frequente impossibilità di porvi rimedio a causa dell’opacità intrinseca dell’algoritmo, specie se “machine learning” o “deep learning” (la cosiddetta black-box barrier). Tutti questi difetti sottolineano l’esistenza di questioni etiche, giuridiche e sociali ancora aperte e affidate alla definizione del diritto[12].
Ad oggi, invece (anche se è in corso di approvazione in sede europea la Proposta di Regolamento sull’IA[13]) la disciplina al riguardo è piuttosto deficitaria: l’unica normativa di riferimento, infatti, è il Regolamento 2016/679 (GDPR)[14], che all’art. 22 prescrive il divieto di trattamenti esclusivamente algoritmici e riconosce “il diritto a non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona”. D’altro canto, però, “la norma è soggetta a un numero considerevole di eccezioni che rischiano di alterare in maniera significativa la sua portata e di rendere ineffettiva l’applicabilità di tale garanzia”[15].
Ad ogni modo, finora la giurisprudenza si è orientata nel senso di ammettere decisioni amministrative meramente automatizzate solo se vincolate, mentre in caso di provvedimenti amministrativi discrezionali ha richiesto, in aggiunta, il rispetto di tre principi di carattere generale: la trasparenza dell’algoritmo, la non esclusività algoritmica e la discriminazione dell’algoritmo (Consiglio di Stato, Sez. VI, n. 8472/2019: c.d. il primo decalogo della legalità algoritmica)[16].
Alcuni relatori hanno, inoltre, sottolineato la naturale propensione espansiva della digitalizzazione, che ha interessato sempre più settori dell’agire pubblico (come le procedure contrattuali pubbliche[17] e lo sviluppo industriale[18]), estendendosi anche ai livelli amministrativi più vicini ai cittadini[19].
- La digitalizzazione nel settore della giustizia
Come accennato sopra, il settore della giustizia è la seconda macroarea in cui si evidenzia la tendenza alla digitalizzazione dell’azione pubblica.
La digitalizzazione in questo campo ha portato, infatti, alla telematizzazione dei processi (civili e penali), alla creazione di portali digitali, all’istituzione di banche dati telematiche e all’uso di algoritmi utili a fornire indicazioni di carattere tecnico (ad esempio, per la determinazione dell’assegno di mantenimento nelle cause familiari oppure per prevedere la possibilità di successo circa la definizione della lite in mediazione).
Tali innovazioni si sono rivelate utili mezzi di supporto e assistenza sia per gli operatori giuridici, sia per i privati cittadini e costituiscono attualmente strumenti capaci di “incrementare la produttività degli uffici giudiziari” (raggiungendo, così, uno degli obiettivi fissati dal Piano Nazionale di Ripresa e Resilienza)[20].
- La digitalizzazione nella produzione normativa
La terza e ultima macroarea analizzata interessa la produzione normativa.
L’uso di strumenti di IA nell’ambito delle politiche pubbliche (ad esempio, per la determinazione del fabbisogno sanitario nazionale standard e dei suoi criteri di riparto tra le Regioni[21]) presenta delle caratteristiche e criticità che solo in parte si sovrappongono rispetto a quelle analizzate nei settori della giustizia e dell’amministrazione (“in questo ambito il pungolo gentile non ha la medesima forza attrattiva che il nudge, di cui parla C. Sunstein, esercita sul convincimento del giudice o dell’amministratore”[22]).
In questo caso, infatti, se da un lato la politica ha la tentazione di omologarsi al risultato offerto dalla macchina, dall’altro rimane sempre “un incontrovertibile room of discretionality”[23] del decisore pubblico che, una volta tenuto conto della soluzione offerta dall’algoritmo, può e, anzi, deve rimanere libero di prendere qualsiasi decisione, assumendosene comunque la responsabilità politica davanti ai cittadini-elettori. È solo seguendo questo modello che si assicura un sano e corretto rapporto fra politica e tecnica.
Dunque, “non tecnocrazia contro democrazia, ma integrazione di elementi epistocratici nei processi decisionali pubblici” (modello di evidence-based rule-making)[24].
Le conseguenze dell’ingresso della tecnica nel procedimento legislativo sono numerose. Innanzitutto, nel caso in cui il decisore politico intendesse discostarsi dal risultato algoritmico, vi è da domandarsi se nasca la necessità che il provvedimento legislativo sia assistito da un elemento che di regola non gli è proprio, quale la motivazione. Inoltre, la legge perderebbe il carattere di norma a efficacia permanente per divenire una regola temporanea, legata alle condizioni tecniche di per sé mutabili. Infine, si potrebbe rigenerare la rappresentanza politica attraverso l’innesto di nuovi apporti partecipativi e si recupererebbe la centralità del Parlamento negli equilibri della forma di Governo.
Per il nuovo rule making di matrice algoritmica, però, dovrebbe essere predisposta una nuova modalità di istruttoria legislativa per permettere la partecipazione dei “soggetti esponenziali degli interessi coinvolti”[25] affinché si esprimano su come selezionare i dati che verranno inseriti nella macchina, su come valutarli e su come individuare la logica di funzionamento per evitare bias e discriminazioni. “Ma in quale modo?”[26] Si pone, dunque, un problema di standing, di tempi e di modalità di partecipazione.
- Prospettive future
Come accennato in precedenza, comune a tutti i relatori è la consapevolezza che il progresso è un fenomeno inarrestabile. In un futuro neanche troppo remoto, dunque, saremo chiamati ad abbandonare quanto detto, perché divenuto ormai obsoleto, e a riflettere su categorie e questioni del tutto nuove. “Quello che accadrà, anzi sta già accadendo, è il passaggio a un computer che non usa il linguaggio digitale, il computer quantistico. […] Non si parlerà più di amministrazione digitale, ma di amministrazione quantistica? E cosa è l’intelligenza artificiale applicata al computer quantistico?”[27]. Allo stato dell’arte a queste domande non sembra esserci ancora una risposta.
Concludendo, dunque, la digitalizzazione, attuale e futura, non va vissuta come una rivoluzione in grado di cancellare la storia e la tradizione giuridica del nostro Stato. Essa, infatti, deve essere vista non tanto come un punto di arrivo, quanto come una tappa di un viaggio che si preannuncia lungo e tortuoso. Compito del giurista è e sarà sempre di affrontarlo senza timori, cercando soluzioni alle criticità che via via si presenteranno, guidato costantemente dai principi fondamentali e dai valori costituzionali.
[1] G. ORSONI, p 9.
[2] J.-B. AUBY, p. 287.
[3] M. F. DE TULLIO, p. 184.
[4] F. PAORICI, p. 279.
[5] C. PALOMBA, p. 257.
[6] A. FINOCCHIARO, p. 271.
[7] A. MARINI, p. 278.
[8] D.-U. GALETTA, p. 125 e I. ALBERTI, p. 169.
[9] A. DI MARTINO, p. 199.
[10] G. DE MINICO, p. 51, dove l’Autrice sottolinea la necessità di una lettura del diritto antitrust tecnologicamente orientata. Per i diritti esercitati online, infatti, sarebbe necessario un surplus di tutela attuabile per il tramite della lex mercatoria.
[11] R. CAVALLO PERIN, p. 99.
[12] G. CARLINO, p. 21.
[13] C. COLAPIETRO, pp. 60-65; A. MORESCHINI, p. 227.
[14] G. SCORZA p. 95, dove l’Autore sottolinea come il necessario rispetto da parte dei processi decisionali pubblici delle regole contenute nel GDPR garantisce che “il diritto alla privacy non sia d’ostacolo alla trasformazione digitale dell’amministrazione”.
[15] L. GRIMALDI, pp. 205-206.
[16] L. CARBONE, p. 115.
[17] G. M. RACCA, p. 131; P. COSSALTER p. 149; P. M. R. SALVA p. 237.
[18] V. GRASSI, p. 267.
[19] L.V. DAAL p. 249; G. MANFREDI p. 255.
[20] M. RIZZO, pp. 262- 263.
[21] V. P. GROSSI, p. 217.
[22] G. DE MINICO, p. 17.
[23] G. DE MINICO, p.17.
[24] E. D’ORLANDO, pp. 85-86.
[25] G. DE MINICO, p. 18.
[26] M. VILLONE, p. 284.
[27] M. VILLONE, p. 286.