Gli effetti dell’amministrazione algoritmica nei procedimenti automatizzati: quali vantaggi per gli Enti pubblici?

lentepubblica.it

L’impatto dell’intelligenza artificiale nel settore pubblico: le novità apportate dal nuovo modello di amministrazione algoritmica nei procedimenti automatizzati. L’Avvocato Renzo Cavadi ci offre una disamina completa sui possibili vantaggi per gli Enti pubblici.

Nel corso degli ultimi anni le riflessioni maturate in materia di digitalizzazione nella cura degli interessi pubblici, trovandosi di fronte a un cambiamento epocale, sembrano avere raggiunto un vero e proprio punto di svolta.  Si è parlato anche di una sorta di “rivoluzione tecnologica copernicana dei pubblici poteri”, ampiamente dettata dalla spinta fornita dai sistemi informatici all’interno dell’attuale struttura amministrativa, nell’ottica di una nuova configurazione della Pubblica Amministrazione, interamente ridisegnata e rivisitata in chiave moderna, al punto tale che oggi, si parla di amministrazione di quarta generazione o più semplicemente di amministrazione algoritmica.

Il significativo cambiamento che sta vivendo attualmente la Pubblica Amministrazione sul versante tecnologico, non fa altro che richiamare in tutte le sue forme, l’evoluzione avvenuta negli enti pubblici, secondo un preciso passaggio di consegne dal settore digitale al mondo degli algoritmi, e dunque da una fase “documentaria” a una meta documentaria ([1]).

Se fino a poco tempo fa nel settore pubblico, si discuteva infatti dell’applicazione delle tecnologie dell’informazione e della comunicazione (ICT), esclusivamente in tema di forma degli atti amministrativi o a limite di organizzazione dei dati derivanti dall’utilizzo di computer nel terreno conosciuto della telematica, oggi si comincia a manifestare concretamente un’altra dimensione da sapore diverso, per l’appunto definita meta-documentaria ([2]), nella quale le tecnologie informatiche, vengono chirurgicamente utilizzate per la riproduzione automatica di processi mentali nell’attività amministrativa.

In tal senso, essendo concreta e tangibile espressione di fenomeni di standardizzazione e spersonalizzazione dei processi decisionali, la tecnologia informatica avanzata, viene sfruttata per la determinazione interna dell’atto ([3]), mediante l’esecuzione di operazioni logiche e dunque per determinare (interamente o parzialmente) il contenuto decisorio del provvedimento ad elaborazione elettronica. Il provvedimento quindi non nasce più nella mente di una persona, ma da una vera e propria scatola nera, meglio conosciuta come black box ([4]), ossia un’entità incorporea con tutto ciò che consegue in termini di rischio d’imputabilità dell’atto ([5]).

Gli effetti della c.d. neutralità algoritmica nei procedimenti amministrativi automatizzati: quali vantaggi per l’attività degli Enti pubblici?

Ciò premesso, si tenterà adesso di focalizzare l’attenzione sui possibili vantaggi legati al progressivo utilizzo dell’intelligenza artificiale all’interno della Pubblica Amministrazione, utilizzando come punto di osservazione l’applicazione di modelli amministrativi che affidano alla regola dei software, della programmazione algoritmica e di conseguenza all’automazione robotica, la definizione del contenuto provvedimentale.

A tal proposito, va detto che le ricerche condotte sull’intelligenza artificiale, volte a comprendere l’applicabilità dell’utilizzo di formule algoritmiche nei processi decisionali automatizzati di competenza delle amministrazioni pubbliche, nelle intenzioni di chi si è approcciato a tali studi, sono state mosse dall’intento primario di promuovere alcuni indubbi vantaggi (^[6]) che potrebbero derivare per l’operato dell’amministrazione, dall’uso di uno strumento come quello algoritmico, per sua natura imparziale.

La neutralità del funzionamento dell’algoritmo (ma certamente non dei criteri che lo stesso applica come si dirà in corso di trattazione), consente di escludere i pregiudizi inevitabilmente espressi dall’animo umano (^[7]) Specialmente se ci si sofferma sul profilo patologico dei fenomeni di micro e macro-corruzione, parrebbe evidente e immediata l’idoneità della formula algoritmica a contrastare i fenomeni di mercimonio della funzione pubblica (^[8]).

Naturalmente, senza relegare la diffusione di modelli decisionali automatizzati a una sorta di rimedio necessario contro la c.d. maladministration (^[9]) e volendone dunque tralasciare la rilevanza a fini anticorruzione, il ricorso a formule algoritmiche sembrerebbe idoneo a neutralizzare la componente emotiva (^[10]), gli errori umani, i ritardi, le negligenze, in qualche misura “giustificate”, se si tengono a mente le regole che governano e disciplinano la responsabilità dei dipendenti pubblici (^[11]).  La macchina utilizzata per i sistemi di intelligenza artificiale è per definizione impersonale.

Ulteriori vantaggi evidenti della decisione algoritmica, si potrebbero riscontrare nella semplificazione dell’operato della Pubblica Amministrazione, chiaramente più rapida e efficiente di quella affidata alla persona fisica: i tempi del procedimento amministrativo sarebbero significativamente ridotti dalla capacità degli strumenti informatici, di esaminare ed elaborare la documentazione di riferimento in maniera nettamente più rapida di qualsiasi persona fisica (^[12]).

A ciò, si aggiunge la capacità della macchina di poter acquisire e catalogare una vastità e complessità di dati, tale da garantire una base conoscitiva indubbiamente più vasta di quella di cui potrebbe mai disporre la persona fisica (^[u]), nel presupposto comunque dimostrato, che ci sono operazioni che sarebbero inaccessibili o magari complesse per essere interpretate efficacemente dagli umani. Tanto più, ove si introduca la distinzione tra algoritmi deduttivi e algoritmi predittivi (^[14])questi ultimi, basati su una tecnologia di machine learning e capaci pertanto, di “imparare” e acquisire dati ulteriori rispetto a quelli selezionati ex ante e inseriti nella formula algoritmica.

Infine tra i possibili vantaggi che possono ricavarsi dall’utilizzo dell’amministrazione algoritmica, rientrerebbe la possibilità di rendere i processi decisionali più cristallini, a patto però che la programmazione della Pubblica Amministrazione, renda manifesto l’iter delle decisioni automatizzate. In questo senso l’intelligenza artificiale, disporrebbe, se adeguatamente utilizzata, di un potenziale per facilitare la trasparenza, automatizzando la pubblicazione dei dati e facilitando l’analisi e la comprensione delle attività istituzionali.

Allo stato attuale, la vera sfida prioritaria è garantire che i processi decisionali guidati dall’intelligenza artificiale siano chiari, giusti e massimamente aperti al controllo e al feedback dei cittadini (^[15]).

Riflessioni finali

Le riflessioni svolte dimostrano che il progresso tecnologico legato alle tecnologie dirompenti, nato per supportare e stimolare i processi decisionali automatizzati nell’organizzazione di pubblici poteri, sta inevitabilmente sfidando, e non poteva essere altrimenti, le capacità e la tenuta della macchina amministrativa dello Stato e più in generale di ogni ente pubblico (^[16]).

Motivo per cui l’applicazione degli algoritmi all’interno della Pubblica Amministrazione e più in particolare nell’azione amministrativa, deve avvenire, e principalmente impostarsi in funzione servente e strumentale all’uomo (^[17]), consentendo a quest’ultimo, di poter riferire l’attività svolta per il tramite dei meccanismi legati all’intelligenza artificiale, sempre a sé stesso. È necessario perciò, che l’intelligenza artificiale e gli atti da questa prodotti, non siano mai sostitutivi di quella umana e che l’individuo possa sempre intervenire correggendo le storture che la tecnologia trascina con sé.

Di contro è anche sotto gli occhi di tutti l’oggettivo cambiamento che sta avvenendo nel contesto della società attuale, non ultimo il settore della Pubblica Amministrazione. La moltiplicazione delle opzioni tecnologiche, sta gettando le basi e nuove regole, per un ecosistema digitale destinato a riscrivere i confini dei modelli di programmazione, di azione e più in generale della governance delle amministrazioni pubbliche.

In tal senso, il mondo della Pubblica Amministrazione tocca oggi orizzonti prima inesplorati, raggiungibili attraverso sviluppatissime capacità conoscitive di nuovo conio le quali possono concretizzarsi, purché adeguatamente utilizzate, in risorse preziose ai fini del raggiungimento di un livello di alta qualità e di efficienza sensibilmente più elevato (^[18])rispetto al precedente modello classico o tradizionale di amministrazione, apportando quindi evidenti e indubbi vantaggi nella macchina amministrativa degli Enti pubblici e dello Stato. (^[19]).

Note

([1]) La distinzione è di M. D’ANGELOSANTE, La consistenza del modello dell’amministrazione ‘invisibile’ nell’età della tecnificazione: dalla formazione delle decisioni alla responsabilità per le decisioni, in S. Civitarrese Matteucci, L. Torchia (a cura di), La tecnificazione, vol. IV, Firenze, 2017, 156-157.

([2]) L’espressione è di A. MASUCCI, L’atto amministrativo informatico. Primi lineamenti di una ricostruzione, Napoli, 1993, 13.

([3]) Per C. CASTALDO, Sanzioni amministrative e digitalizzazione: una prima ricostruzione, in Federalismi.it, 1, 2024, 2 nel modello meta documentario, “si verifica una particolare simbiosi tra la disciplina astratta del procedimento amministrativo e l’utilizzo pratico delle nuove tecnologie”.

([4]) L’incognita dell’effetto ‘black box’ implica il problema della mancanza di spiegazione (lack of explainability): una rete neurale non è tipicamente in grado di spiegare le sue decisioni, non basate sulla logica deterministica, non consentendo di ripercorrere a ritroso il procedimento di generazione di un dato output. Tale circostanza si riverbera evidentemente sulla motivazione della decisione adottata sulla base dell’output prodotto dal sistema di I.A., con il rischio di una sostanziale elusione dell’obbligo di indicare i presupposti di fatto e le ragioni giuridiche che, proprio in relazione alle risultanze dell’istruttoria, l’abbiano determinata. Per uno studio approfondito in materia si rinvia a F. PASQUALE, The Black box society, The Secret Algorithms that Control Money and Information, Harvard University Press, 2015.

([5]) S. CIMINI, Buona fede e responsabilità da attività provvedimentale della Pubblica Amministrazione., in P.A. Persona e Amministrazione, 1, 2018. Coglie questa preoccupazione il TAR Lazio, sez. III bis, 27 maggio 2019, n. 6606, nel momento in cui il Collegio Amministrativo afferma che “un procedimento amministrativo, ancorché difficile o complicato, non può essere devoluto ad un meccanismo informatico o matematico del tutto impersonale e orfano di capacità valutazionali”.

([6]) Senza pretesa di esaustività, tra i possibili vantaggi si può fare riferimento all’implementazione dell’applicazione di una data normativa, ossia utilizzare l’intelligenza artificiale al fine di identificare o classificare gli obiettivi posti da una determinata legge, anche nell’ambito di un habitat normativo assai complesso e a volte contraddittorio; da non trascurare è il fatto che ne verrebbe a migliorare la ricerca, l’analisi e il monitoraggio dei dati, al fine di implementare il processo decisionale pubblico sia a livello legislativo che provvedimentale. Inoltre, si potrebbe attuare il c.d. e-procurement, ossia l’utilizzo dell’intelligenza artificiale nelle procedure ad evidenza pubblica. (Per un’analisi delle questioni rilevanti in materia si veda L. VENTURA, Public procurement e sostenibilità. Convergenze trasversali dei sistemi giuridici contemporanei, in Diritto del Commercio Internazionale, 1,2020, 243 ss). Infine, un aspetto positivo sarebbe legato all’ottimizzazione dei processi di gestione interna delle risorse pubbliche (umane, economiche, infrastrutturali), utilizzando strumenti “intelligenti” che consentono allocazioni delle risorse migliori e in tempi più rapidi rispetto all’attività umana.

([7]) Sul punto si veda G. AVANZINI, Decisioni amministrative e algoritmi informatici. Predeterminazione, analisi predittiva e nuove forme di intellegibilità, Napoli, 2018, 15.

([8]) Resterebbe l’eventualità certo più remota ma comunque immaginabile, di una “manomissione” delle formule algoritmiche. Per approfondimenti si legga in particolare F. MERENDA, Legalità, algoritmi e corruzione: le tecniche di intelligenza artificiale potrebbero essere utilizzate nel e per il sistema di prevenzione della corruzione? in Rivista italiana d’informatica e diritto, 2, 2022, 23 ss.

([9]) Ad esempio gli algoritmi nel contesto dell’intelligenza artificiale, possono essere utilizzati per monitorare la spesa pubblica, identificare potenziali sprechi o frodi e garantire che le risorse siano utilizzate in modo efficiente ed equo.

([10]) S. CIVITARRESE MATTEUCCI, Uomo troppo umano. Decisioni amministrative automatizzate e principio di legalità, in Dir. Pubb.,2019, 6-7.

([11])  Per tutti, S. CIMINI, La responsabilità amministrativa e contabile. Introduzione al tema ad un decennio dalla riforma, Milano, 2003.

([12]) Così S. VERNILE, Verso la decisione amministrativa algoritmica?, in Medialaws – Rivista di Diritto dei Media, 2, 2020, 141. Per spunti ricostruttivi si rinvia a C. CASTALDO, Sanzioni amministrative e digitalizzazione: una prima ricostruzione, in Federalismi.it, 1, 2024, 3, la quale in particolare sottolinea che “l’utilizzo delle nuove tecnologie informatiche, incide significativamente sulla cultura organizzativa dell’amministrazione, non soltanto semplificando le attività quotidiane del funzionario, ma incidendo sulla stessa struttura del procedimento e sul rapporto tra amministrazione e amministrati, così condizionando lo svolgimento della funzione”.

([13])  Presupposto necessario sembra essere l’accoglimento di quella lettura che vede nei dati una risorsa da sfruttare e un giacimento, su cui si sofferma E. CARLONI, Algoritmi su carta. Politiche di digitalizzazione e trasformazione digitale delle amministrazioni, in Dir. pubbl., 2, 2019, 363, il quale pone in luce, le differenze regolatorie cui sottostanno istituzioni pubbliche e private che, sebbene per cause meritorie, finiscono per limitare significativamente la possibilità di utilizzare questa ricchezza conoscitiva, contribuiscono a ostacolare lo sviluppo di un “modello di amministrazione innovativa che resta quasi chimerica ma è al tempo stesso ormai tradizionale: un’amministrazione al servizio dei cittadini e delle imprese, nel quale si superi la tradizionale logica per “silos” e le istituzioni siano in grado di rapportarsi in modo unitario nei confronti degli utenti; utenti identificati con alto livello di certezza, in grado di autenticare le proprie transazioni e completare quindi la fornitura di servizi da parte di un sistema pubblico internamente integrato”.

([14]) Cfr. F. COSTANTINO, Lampi. Nuove frontiere delle decisioni amministrative tra open e big data, op.cit., 799 ss.

([15]) Ciò significa che i cittadini, possono avere accesso a informazioni dettagliate sul funzionamento interno delle istituzioni pubbliche, aumentando così la fiducia e la comprensione dei processi istituzionali.

([16]) Si sofferma su tale aspetto A. PUZZANGHERA, La sfida tecnologica alla legalità amministrativa, in Rivista Italiana di informatica e diritto, 2, 2022, 7-13.

([17]) Così R. FERRARA, Il giudice amministrativo e gli algoritmi. Note estemporanee a margine di un recente dibattito giurisprudenziale, in Dir. Amm., 2019, 784 ss., il quale sottolinea come in diverse occasioni “i giudici amministrativi hanno manifestato un convinto riconoscimento del ruolo che la persona umana (il funzionario) è chiamato a giocare in tutti i procedimenti amministrativi, anche quelli automatizzati, allorché «sono l’informatica e la digitalizzazione delle procedure al servizio dell’Uomo, e non viceversa”.

([18]) In tale prospettiva l’intelligenza artificiale non è solo innovazione tecnologica, ma anche protagonista di un nuovo dialogo civico, all’interno del quale le richieste e le esigenze dei cittadini, possono essere elaborate e comprese con maggiore rapidità e precisione dalle Pubbliche Amministrazioni.

([19]) Sul punto si veda tra gli altri J.B. AUBY, Il diritto amministrativo di fronte alle sfide digitali, in. Istituzioni del Federalismo, Bologna, 3, 2019, 621 il quale mette in evidenza che “le istituzioni pubbliche come le società private, si rendono conto che al fine di trattare la mole di dati che detengono e, di inferirne decisioni, non possono più contare e fare affidamento esclusivamente sulle tradizionali dinamiche decisionali, che si scontrano spesso con la complessità della realtà. Gli algoritmi sono un modo per gestire questa complessità”.

The post Gli effetti dell’amministrazione algoritmica nei procedimenti automatizzati: quali vantaggi per gli Enti pubblici? appeared first on lentepubblica.it.