IN POCHE PAROLE…
L’uso dell’«Intelligenza Artificiale» non può prescindere dall’osservanza dei principi generali dell'<agere pubblico>. Come affrontare le nuove frontiere giuridiche secondo il giudice amministrativo garantendo elevati livelli di tutela del cittadino.
Consiglio di Stat0, sez vi, sent. 8 aprile 2019, n. 2270 [1], Pres. Luigi Carbone, Est. Giordano Lamberti
Consiglio di Stato, sez. vi, sent. 13 dicembre 2019, n. 8472 [2], Pres. Giancarlo Montedoro, Est. Daniele Ponte
La sequenza algoritmica è la traduzione in forma matematica di un “atto amministrativo informatico”, la cui adozione mediante queste tecniche elettroniche non esime dall’osservanza dei principi di trasparenza, pubblicità, proporzionalità e ragionevolezza che presiedono all’esercizio delle funzioni pubbliche.
ll meccanismo attraverso il quale si concretizza la decisione robotizzata (ovvero l’algoritmo) deve essere “conoscibile”, secondo una declinazione rafforzata del principio di trasparenza, che implica anche quello della piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico.
Il funzionario responsabile del procedimento deve servirsi utilmente delle tecnologie informatiche e non assumere al contrario un ruolo servente rispetto ad esse.
Affrontare la tematica attinente i rapporti sussistenti tra la disciplina e la concreta applicazione del diritto amministrativo e le nuove tecnologie informatiche significa cimentarsi nel tentativo di spiegazione di una questione molto complessa.
Al giorno d’oggi, le moderne scienze sono in grado di offrire strumenti molto innovativi ed impensabili fino a pochi decenni fa, il cui utilizzo potrebbe contribuire ad un miglioramento dei livelli di efficienza organizzativa della Pubblica Amministrazione. Un processo di crescita e di trasformazione basato sull’uso dell’Intelligenza Artificiale che non può però prescindere dall’osservanza dei principi generali propri di questa branca del diritto.
Il ruolo del Consiglio di Stato ha assunto negli ultimi anni un rilievo fondamentale nell’affrontare queste nuove frontiere giuridiche, inquadrandole pur sempre in un’ottica di perseguimento degli scopi di interesse pubblico ed impegnandosi nella interpretazione e ricostruzione di articolati normativi volti a garantire adeguati livelli di tutela al cittadino.
Il presente scritto mira ad operare un’analisi del fenomeno, che, per quanto articolata e non ancora avente un oggetto dalle caratteristiche compiutamente definite, risulta pur sempre utile svolgere, quantomeno in un’ottica di maggiore consapevolezza dell’argomento e di concreto impiego del medesimo.
L’algoritmo e i sistemi di «Intelligenza Artificiale»: qualificazione giuridica e profili strutturali
Con il termine algoritmo si è soliti intendere una sequenza di passaggi elementari, secondo una sequenza finita e ordinata di istruzioni chiare ed univoche per la risoluzione di un dato problema. Si tratta di una espressione che deriva dalla trascrizione latina del nome del matematico persiano del IX secolo d.C. al-Khwarizmi, uno dei primi autori ad aver fatto riferimento nei suoi scritti a questo concetto.
Il moderno operare degli elaboratori elettronici sfrutta algoritmi costruiti secondo il cosiddetto schema ipotetico “if-then”, nei quali viene prescritta al calcolatore informatico, al ricorrere di condizioni predeterminate, l’esecuzione di istruzioni certe e univoche. Operazioni prestabilite vengono svolte dalla macchina sulla base del contenuto della sequenza algoritmica elaborata dal programmatore, di regola proprio per garantire maggiore celerità nell’esecuzione di azioni o calcoli di natura ripetitiva.
Tuttavia, i risultati scientifici non si sono limitati a questo, giungendo invero alla creazione di programmi di Intelligenza Artificiale capaci di formulare persino autonome decisioni, tenendo conto dei dati in essi inseriti nel tempo e dell’adeguamento progressivo ai fenomeni conosciuti.
A questo riguardo, è interessante operare un, sia pur breve, richiamo al “rapporto sui principali problemi dell’Amministrazione dello Stato”, presentato nel 1979 dall’allora Ministro della Funzione Pubblica Massimo Severo Giannini. In esso, veniva già rilevato come gli elaboratori elettronici, originariamente adoperati come “apparecchi di semplice registrazione di dati complessi – siano – divenuti poi apparecchi di accertamento e verificazione, di calcolo, di partecipazione a fasi procedimentali di istruttoria, e infine di decisione”, cosicché “i sistemi informatici non servono più alle Amministrazioni per fatti di gestione interna, ma servono proprio per amministrare, si proiettano cioè sempre più verso l’esterno”.
Parole che possono affiancarsi a quanto sostenuto dallo stesso Alan Turing, uno dei padri fondatori delle scienze informatiche, il quale, già pochi decenni prima dell’affermazione poc’anzi riportata, immaginava la creazione di “macchine pensanti”, capaci di formulare ragionamenti fondati su schemi logici ed argomentativi tipici della conoscenza umana.
In un simile scenario, anche il diritto amministrativo ha dovuto confrontarsi con la progressiva affermazione degli strumenti informatici, che non solo hanno sostituito nei pubblici uffici le precedenti macchine da scrivere, ma hanno al contempo persino dimostrato una sempre più crescente capacità di autonomo assolvimento di compiti tecnici ed operativi, come quello di formulazione di contenuti di provvedimenti amministrativi. Un’Amministrazione 4.0 che, avvalendosi dell’impiego di software che adattano il proprio funzionamento alle mutevoli caratteristiche della realtà esterna, contribuisce all’affermarsi di moduli operativi automatizzati che, anche apprendendo dai propri errori, tentano, in un certo qual modo, di emulare il concreto operare della mente umana.
Per avere una qualificazione giuridica dei sistemi di automazione informatica, in dottrina è stata prospettata una classificazione concettuale degli stessi sulla base di tre distinte categorie generali: i robot tele-operati, i robot autonomi e i robot cognitivi.
Per robot tele-operati si intendono quegli strumenti di esecuzione delle istruzioni operative impartite dall’uomo mediante mezzi di controllo elettronici. Viceversa, i robot autonomi svolgono il compito programmato senza alcuna partecipazione dell’operatore umano all’attività esecutiva, attraverso una indipendente acquisizione ed elaborazione delle informazioni sull’ambiente in cui agiscono, mentre i robot cognitivi adeguano autonomamente il loro comportamento ai mutamenti del contesto in cui operano, avvalendosi di avanzati strumenti di analisi informatica della realtà.
Da un lato, alla luce dell’integrale dominio umano sul comportamento della macchina, sembrerebbe potersi giustificare l’inquadramento del robot tele-operato nell’ambito delle cose suscettibili di formare oggetto di diritti. Tuttavia, dall’altro lato, non pochi dubbi interpretativi possono sollevarsi con riguardo ai sistemi informatici autonomi e cognitivi, a fronte delle loro proprietà di auto-apprendimento e di indipendenza esecutiva. Tra questi, basti pensare non solo al corretto inquadramento giuridico della natura di queste forme di Intelligenza Artificiale, ma anche e soprattutto ai criteri di imputazione della responsabilità per i danni da esse cagionati.
Sul punto, in dottrina, sono stati condotti interessanti studi, alcuni dei quali, nell’escludere la soggettività giuridica delle tecnologie informatiche autonome e cognitive, sono giunte ad affermare che l’eventuale danno cagionato dall’erroneo funzionamento di un calcolatore elettronico vada risarcito dal produttore dello stesso, in osservanza delle norme di matrice eurounitaria sulla responsabilità da prodotto difettoso.
Inoltre, considerando specificamente l’agire della Pubblica Amministrazione, è bene precisare come queste nuove prospettive di automazione dei processi decisionali, attuate mediante l’impiego di moderne tecnologie di Intelligenza Artificiale nello svolgimento dell’attività di cura dell’interesse pubblico, vada valutata alla stregua dei principi generali di diritto amministrativo, in modo da renderla compatibile anche con le garanzie che presidiano l’esercizio delle funzioni pubbliche.
L’interesse pubblico ed il sistema delle garanzie
Le forme attraverso cui l’Amministrazione esercita il potere conferitole dalla legge per il perseguimento di pubblici interessi sono fortemente influenzate dalla diffusione e dall’utilizzo delle nuove tecnologie. Pur costituendo oggetto di un numero sempre più ampio di testi normativi, il quadro legislativo vigente in materia, quantomeno nel settore giuspubblicistico, sembra incontrare ancora alcune lacune. Nonostante questa mancanza di una disciplina normativa generale sull’automazione della funzione amministrativa, è nondimeno possibile sostenere che il concreto utilizzo di programmi e strumenti di Intelligenza Artificiale sia giustificato dal principio di buon andamento, così come previsto dall’art. 97 della Costituzione.
Tuttavia, se la Pubblica Amministrazione, sfruttando le rilevanti potenzialità della rivoluzione digitale, specie in termini di guadagni e neutralità nella scelta, contribuisce ad un effettivo miglioramento delle prestazioni che sono rese ai cittadini nell’ambito di quelle relazioni giuridiche in cui l’Amministrazione dismette i propri poteri unilaterali, laddove si tratti invece di funzioni autoritative il carattere automatico va valutato con maggiore attenzione, al fine di evitare che siano eluse primarie regole proprie dell’azione amministrativa.
Alcune osservazioni messe in luce dagli esperti in materia hanno osservato che i software di Intelligenza Artificiale seguirebbero un percorso logico non sempre comprensibile, dal momento che i sistemi di Intelligenza Artificiale non consentono sempre l’esternazione dell’iter argomentativo che correla le informazioni elementari (input) alla determinazione conclusiva elaborata dal calcolatore (output). Un limite che viene generalmente definito con l’espressione “black box” e che evidenzia al tempo stesso come vi possa essere un principio di conflittualità tra il processo di informatizzazione amministrativa e le ineludibili forme di garanzia, in termini di conoscibilità e trasparenza provvedimentale, poste a fondamento dell’obbligo di motivazione di cui all’art. 3 della legge n. 241/1990 [3]. L’inaccessibilità della logica sottesa al funzionamento dell’algoritmo determina, a livello procedurale, l’impossibilità di fatto di esplicitare il fondamento di conoscenza e di apprendimento, sulla cui base la decisione viene assunta dalla macchina.
Inoltre, ulteriori considerazioni meritano di essere svolte con riferimento alla natura stesse delle informazioni poste a base dell’attività elettronica svolta. A fronte di sistemi di “machine learning” capaci di elaborare decisioni autonome rispetto all’oggetto di istruzioni algoritmiche predeterminate, vi potrebbe infatti essere il rischio che nelle ingenti masse di dati non organizzabili secondo univoci criteri di razionalizzazione (cosiddetti big data), elaborati nel processo di valutazione elettronica, siano ricompresi anche dati personali o sensibili, a prescindere dal consenso del soggetto interessato al trattamento, in tal modo violando la norme tanto nazionali quanto di carattere eurounitario sulla protezione della sfera di riservatezza individuale.
A quanto esposto, si aggiunga che un’elaborazione automatizzata delle informazioni può anche comportare conseguenze discriminatorie. L’attendibilità dei dati che vengono acquisiti dai sistemi elettronici ha una incidenza significativa sulla validità degli schemi logici posti a base dell’inferenza informatica e quest’ultima, se non si tengono in considerazione adeguati presupposti conoscitivi, rischia di condurre a conclusioni non solo erronee, ma anche eticamente inaccettabili. Si tratta del cosiddetto principio di non discriminazione algoritmica, così come delineato dal considerando n. 71 del Regolamento 679/2016 [4], secondo cui è opportuno che “il titolare del trattamento utilizzi procedure matematiche o statistiche appropriate per la profilazione, mettendo in atto misure tecniche e organizzative adeguate al fine di garantire, in particolare, che siano rettificati i fattori che comportano inesattezze dei dati e sia minimizzato il rischio di errori e al fine di garantire la sicurezza dei dati personali, secondo una modalità che tenga conto dei potenziali rischi esistenti per gli interessi e i diritti dell’interessato e che impedisca tra l’altro effetti discriminatori nei confronti di persone fisiche sulla base della razza o dell’origine etnica, delle opinioni politiche, della religione o delle convinzioni personali, dell’appartenenza sindacale, dello status genetico, dello stato di salute o dell’orientamento sessuale, ovvero che comportano misure aventi tali effetti”.
Si è fatto in questa sede richiamo ad una normativa sovranazionale perché in questa ricostruzione sistematica, che tenta di enucleare i valori fondamentali dell’azione amministrativa e di garantire in tal modo anche il pieno rispetto dei diritti della persona, è necessario rifuggire da una prospettiva meramente interna e nazionale. In un simile approccio comparatistico possono essere citati importanti documenti con i quali si è voluto perseguire il fine di realizzare una strategia comune in materia di Intelligenza artificiale. Si pensi al Piano coordinato per l’Intelligenza Artificiale o ancora alla Carta della Robotica di recente approvazione, funzionale al supporto di un percorso di crescita ed innovazione, pur nel rispetto della Carta dei diritti fondamentali dell’Unione Europea. Inoltre, in data 21 aprile 2021, la stessa Commissione europea ha presentato una proposta di regolamento per armonizzare le normative degli Stati membri in materia di Intelligenza Artificiale, il cui obiettivo primario è stato quello di tutelare i diritti fondamentali mediante una logica restrittiva degli operatori che fanno ricorso a questi strumenti ed al contempo predittiva dei rischi che potrebbero ricadere sulla platea di soggetti destinatari.
Estendendo il discorso addirittura sul piano internazionale, è possibile richiamare il Documento sulla trasparenza e responsabilità degli algoritmi, pubblicato nel 2017 dall’Associazione statunitense della meccanica computazionale, tra i cui meriti vi rientra quello di aver sancito il dovere di consapevolezza e il dovere di spiegazione in capo a chi usufruisce di sistemi algoritmici che possono pregiudicare gli individui e la società.
Alla luce di quanto poc’anzi riportato, appare dunque auspicabile anche un intervento in materia da parte del legislatore nazionale che, in coordinamento con il contesto eurounitario ed internazionale, sia capace di ricondurre questo processo di digitalizzazione entro i margini più ristretti del principio di legalità e di disciplinare il mutato paradigma decisionale in modo da garantire anche il pieno rispetto delle libertà e dei diritti fondamentali della persona.
Cosa ne pensa il Consiglio di Stato
Gli aspetti illustrati nei precedenti paragrafi hanno trovato conferma anche in sede giurisdizionale.
Negli ultimi anni, il Consiglio di Stato ha ricostruito il ricorso all’algoritmo nei procedimenti amministrativi inquadrandolo espressamente come modulo organizzativo, strumento procedimentale ed istruttorio, in quanto tale soggetto alle verifiche tipiche di ogni procedimento amministrativo, da svolgersi sulla scorta della legislazione attributiva del potere e delle finalità dalla stessa attribuite all’organo pubblico, titolare del potere.
In particolare, la legge n. 107/2015 [5], anche nota come riforma della “buona scuola” autorizzava una procedura straordinaria di reclutamento del personale docente, sulla cui base l’Amministrazione procedeva a disporre l’assegnazione degli insegnanti destinatari delle proposte di assunzione alle diverse sedi territoriali di servizio mediante alcuni sistemi di elaborazione informatica dei provvedimenti di trasferimento. Da qui sono sorte molteplici controversie sia in merito alla razionalità delle assegnazioni elettroniche interprovinciali, sia con riguardo alla stessa attendibilità del modello algoritmico di funzionamento del software.
Il Consiglio di Stato, con la nota sentenza n. 2270/2019 [1] rilevava come, pur non potendosi nascondere le intrinseche potenzialità di miglioramento dei livelli di efficienza amministrativa insite nel processo di informatizzazione istituzionale, l’impiego dei sistemi di automazione decisionale non potesse in alcun modo determinare l’elusione dei generali canoni di svolgimento dell’attività di cura dell’interesse pubblico. Al par. 8.2 della pronuncia, il Collegio precisava infatti che la sequenza algoritmica non sarebbe altro che la traduzione in forma matematica di un “atto amministrativo informatico”, la cui adozione mediante queste tecniche elettroniche non esimerebbe dall’osservanza dei principi di trasparenza, pubblicità, proporzionalità e ragionevolezza che presiedono all’esercizio delle funzioni pubbliche. Riconosciuta la natura provvedimentale dell’algoritmo, si statuiva che i software utilizzati dalla Pubblica Amministrazione dovevano consentire la trasposizione in termini giuridici delle prescrizioni formulate in linguaggio computazionale, in modo che fossero assicurate la conoscibilità e la comprensibilità dello schema logico di funzionamento del programma informatico.
Inoltre, da questa stessa qualificazione in termini provvedimentali deriverebbe anche la piena sindacabilità dinanzi al giudice amministrativo. Il Consiglio di Stato affermava infatti che “solo in questo modo è possibile svolgere, anche in sede giurisdizionale, una valutazione piena della legittimità della decisione; valutazione che, anche se si è al cospetto di una scelta assunta attraverso una procedura informatica, non può che essere effettiva e di portata analoga a quella che il giudice esercita sull’esercizio del potere con modalità tradizionali”. Nella risoluzione della fattispecie in esame, la Sezione VI precisava, peraltro, che il sindacato del giudice amministrativo, in una prima fase, avrebbe riguardato la correttezza delle attività che connotano il processo di automazione, costituite non soltanto dalla costruzione dell’algoritmo, ma anche dall’acquisizione, dalla validazione e dalla gestione dei dati, mentre, in una seconda fase, si sarebbe spinto fino alla legittimità del provvedimento adottato dal software in esecuzione delle prescrizioni algoritmiche.
Nella sua attività, la giurisprudenza ha anche avuto modo di interrogarsi, al pari della dottrina, in merito all’ammissibilità dell’utilizzo delle tecnologie informatiche anche nelle ipotesi in cui la legge riconosca all’Amministrazione poteri di valutazione discrezionale.
L’interpretazione prevalente non dubita del loro impiego in ipotesi di attività vincolata, nella quale peraltro l’utilità di una simile modalità operativa appare evidente, specie con riferimento a procedure seriali e standardizzate, implicanti l’elaborazione di ingenti quantità di istanze e caratterizzate dall’acquisizione di dati certi ed oggettivamente comprovabili.
Tuttavia, anche in relazione all’attività discrezionale sembra potersi ammettere che l’impiego di tali strumenti possa orientare la potestà valutativa pubblicistica nel senso stabilito dalla sequenza algoritmica, assicurando in tal modo una maggiore stabilità e neutralità nelle scelte di amministrazione attiva. Si consideri in particolare quanto affermato dal Consiglio di Stato per un caso avente ad oggetto la medesima materia di quello precedentemente richiamato. Con la sentenza n. 8472/2019 [2], l’Autorità giudicante aveva osservato che “se il ricorso agli strumenti informatici può apparire di più semplice utilizzo in relazione alla cosiddetta attività vincolata, nulla vieta che i [fini stabiliti dalla legge], perseguiti con il riscorso all’algoritmo informatico, possano perseguirsi anche in relazione ad attività connotata da ambiti di discrezionalità. Piuttosto, se nel caso dell’attività vincolata ben più rilevante, sia in termini quantitativi che qualitativi, potrà essere il ricorso a strumenti di automazione della raccolta e valutazione dei dati, anche l’esercizio di attività discrezionale, in specie tecnica, può in astratto beneficiare delle efficienze e, più in generale, dei vantaggi offerti dagli strumenti stessi”.
Allo stesso tempo, però, l’impiego di simili tecnologie nello svolgimento di attività nelle quali la Pubblica Amministrazione gode di ampi margini di discrezionalità non può prescindere dall’enucleazione e conseguente osservanza di principi applicativi idonei ad assicurare, accanto alle grandi potenzialità informatiche, l’osservanza dei canoni generali propri della funzione pubblica.
Se da un lato, infatti, tramite l’utilizzo di strumenti di automazione decisionale si assiste ad una riduzione temporale delle fasi costitutive del procedimento amministrativo, dall’altro lato questo non può tradursi in una compressione delle garanzie partecipative riconosciute dalla legge a tutela delle posizioni giuridiche soggettive correlate all’esercizio del potere. Qualora questo modus procedendi limitasse, se non addirittura cancellasse, il godimento delle facoltà collaborative e conoscitive previste a livello normativo, una simile gestione informatica dei rapporti giuridici di diritto pubblico correrebbe il rischio di determinare inevitabilmente una violazione dei principi e delle regole che conformano la manifestazione della potestà autoritativa. La presentazione di memorie e documenti, la garanzia di accesso ai documenti amministrativi e l’interlocuzione istruttoria con il responsabile del procedimento non possono essere elusi neppure nell’ambito di procedimenti gestiti tramite tecnologie informatiche, per così dire, “intelligenti”.
A riguardo, attenta dottrina rileva come “la legalità procedurale viene a rappresentare un essenziale crisma di legittimazione del potere autoritativo della pubblica amministrazione”. Dunque, non si tratterebbe di “sostituire con un algoritmo la figura del funzionario responsabile del procedimento: piuttosto, è viceversa certamente possibile immaginare che il funzionario responsabile si serva utilmente dell’Intelligenza Artificiale”.
Inoltre, come è stato messo in luce anche a livello giurisprudenziale, i processi di informatizzazione dell’attività amministrativa non devono escludere né l’imputabilità dell’atto amministrativo così formatosi all’organo competente, né la risarcibilità in capo alla Pubblica Amministrazione dei danni cagionati dall’erroneo funzionamento del software (fatte salve eventuali azioni di rivalsa da parte della stessa), costituendo questi aspetti elementi minimi di garanzia, che, accanto alla conoscibilità a monte del modulo prescelto e dei criteri logici applicati, sono in grado di consentire un utilizzo consapevole degli algoritmi in sede decisoria pubblica ed al contempo anche il rispetto della disciplina sovranazionale di riferimento.
Conclusioni
Al giorno d’oggi, oggetto di discussione non sembra più essere tanto l’an della decisione robotizzata, quanto piuttosto dal quomodo. Il Consiglio di Stato, nelle pronunce precedentemente richiamate, ha ribadito la natura servente dell’algoritmo per la Pubblica Amministrazione, ponendo contemporaneamente le premesse per un possibile superamento dei limiti di utilizzo dell’algoritmo e della stessa Intelligenza Artificiale nei diversi ambiti dell’attività amministrativa, tra i quali quello concernente l’esercizio del potere discrezionale.
Occorre però accompagnare un simile percorso di trasformazione, assicurando la scelta di programmi informatici adeguati al perseguimento degli scopi di interesse pubblico e procedere nella costruzione di un complesso di regole idonee a fornire la garanzia di adeguati livelli di tutela al cittadino.
Alessandro Sorpresa
FONTI BIBLIOGRAFICHE:
DOTTRINA:
- FERRAGINA – F. LUCCIO, Il pensiero computazionale. Dagli algoritmi al coding, Bologna, 2017, p. 10.
- M. TURING, Computer machinery and intelligence, in Mind, 59, 1950, pp. 433 e ss.
- SANTOSUOSSO – C. BOSCARATO – F. CAROLEO, Robot e diritto: una prima ricognizione, in Nuova giur. civ. Comm., 28, 2012, pp. 498 e ss.
- DI ROSA, Robot e responsabilità per danni, in AA. VV., L’algoritmo pensante: dalla libertà dell’uomo all’autonomia delle intelligenze artificiali, a cura di C. BARONE, Trapani, 2020, p. 90.
- PASQUALE, The black box society: the secret algorithms that controls money and information, Londra, 2015.
- BATHAEE, The Artificial Intelligence Black Box and the failure of intent and causation, in Harvard Journal of Law & Technology, 2018, pp. 890 e ss.
- PONTE, L’intelligenza artificiale e l’algoritmo a contatto col diritto amministrativo: rischi e speranze, relazione di intervento al corso di formazione per i Magistrati organizzato dall’Ufficio studi, massimario e formazione della Giustizia amministrativa, tenutosi in data 8 giugno 2021.
- NERI, Diritto amministrativo e intelligenza artificiale: un amore possibile, Riv. Urbanistica e Appalti, 2021, fascicolo 5, pp. 581 e ss.
- SIMONCINI, L’algoritmo incostituzionale: intelligenza artificiale e il futuro delle libertà, BioLaw Journal, 1, 2019, pp. 77-79.
- U. GALETTA – J.G. CORVALAN, Intelligenza Artificiale per una pubblica amministrazione 4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, in federalismi.it, 3, 2019, p. 17.
GIURISPRUDENZA:
- Stato, Sez. VI, sent. n. 2270/2019.
- Stato, Sez. VI, sent. n. 8472/2019.