Intelligenza Artificiale: i casi americani
Sono stati recentemente segnalati due episodi verificatisi negli Stati Uniti d’America (nei distretti federali del Mississippi e del New Jersey), nei quali dei Giudici federali hanno disposto il ritiro di proprie decisioni a seguito di contestazioni mosse dai difensori delle parti.
Nel caso del Mississippi, l’ordinanza originaria presentava un’erronea identificazione di parti processuali e faceva riferimento ad accuse non contenute negli atti introduttivi.Nel caso del New Jersey, invece, la decisione conteneva citazioni giurisprudenziali inesistenti e attribuzioni di dichiarazioni non corrispondenti al vero, riconducibili all’inserimento non autorizzato di una ricerca effettuata tramite strumenti di intelligenza artificiale, successivamente non revisionata.
In entrambi i casi, il provvedimento di ritiro non ha formalmente menzionato l’IA come causa diretta, ma la stampa specializzata e la dottrina hanno evidenziato il rischio di cosiddette ‘allucinazioni’ dell’IA, ossia la produzione di dati e riferimenti fittizi, recepiti senza controllo critico.
Considerazioni in diritto
Principi costituzionali e processuali
Il fenomeno in esame deve essere valutato alla luce di principi cardine dell’attività giurisdizionale: la terzietà e imparzialità del giudice, la soggezione del giudice soltanto alla legge, e il rispetto del giusto processo e del contraddittorio. L’utilizzo, anche solo indiretto e non trasparente, di strumenti che generano errori fattuali o giuridici mina la certezza del diritto e incide negativamente sull’affidabilità della funzione giurisdizionale.
Rischi connessi all’uso dell’IA
Il ricorso a software di intelligenza artificiale non adeguatamente controllati può dar luogo a: allucinazioni informative (citazioni false o inventate), errori nella rappresentazione dei fatti, attribuzioni arbitrarie di precedenti e dichiarazioni. Tali rischi sono già stati rilevati in più occasioni, tanto da giustificare richiami disciplinari nei confronti di professionisti che abbiano depositato atti fondati su testi prodotti dall’IA senza previa verifica.
Quadro normativo
https://www.consilium.europa.eu/it/policies/artificial-intelligence/
Il Regolamento (UE) 2024/AI Act qualifica come ‘ad alto rischio’ i sistemi di IA destinati a supportare l’attività giurisdizionale, imponendo specifici obblighi di controllo e registrazione. Il principio generale stabilito dal legislatore europeo è che il processo decisionale finale deve rimanere attività esclusivamente a guida umana. Pertanto, un utilizzo non autorizzato o privo di adeguata vigilanza contrasta con la ratio legis europea e con i principi di corretto esercizio della funzione giurisdizionale.
La prospettiva dottrinale di Amedeo Santosuosso
Merita un richiamo, in chiave sistematica, l’opinione espressa da Amedeo Santosuosso, Professore Straordinario presso la Scuola Universitaria Superiore IUSS Pavia ‘Giudicare con l’IA è secondo la Costituzione’, ove si valorizza il ruolo dell’AI Act europeo quale strumento di regolazione equilibrata dell’uso dell’intelligenza artificiale in ambito giudiziario. Secondo tale impostazione, il Regolamento non assume un atteggiamento tecnofobico, ma riconosce la possibilità di impiegare sistemi di IA in compiti preparatori, procedurali o integrativi, purché il processo decisionale finale rimanga saldamente affidato al giudice-persona. L’IA può concorrere a migliorare la qualità del lavoro giudiziario a condizione che vi sia vaglio critico e controllo umano effettivo.
La posizione contraria di Roberto Bichi
In contrapposizione all’approccio ottimistico del Prof. Santosuosso, in un recente contributo del Dott. Roberto Bichi, già Presidente del Tribunale di Milano, si delinea una posizione piuttosto critica e prudenziale sull’impiego dell’intelligenza artificiale in ambito giurisdizionale. L’autore distingue tra strumenti di IA debole o media (atti ricorrenti, ricerche giuridiche, chatbot per atti semplici), ritenuti utili e già diffusi, e sistemi di IA forte, volti a predire o sostituire la decisione del giudice, considerati incompatibili con i principi costituzionali. Le obiezioni si fondano su limiti intrinseci della tecnologia, rischio di standardizzazione, opacità algoritmica e compromissione del giusto processo. In questa prospettiva, è necessario porre rigidi limiti all’estensione dell’IA predittiva-decisoria, evitando derive di automazione che ridurrebbero il giudice-persona a mero esecutore di schemi algoritmici.
Conclusioni
Alla luce dei fatti esposti e delle considerazioni giuridiche svolte, si può ragionevolmente affermare che:
I casi statunitensi costituiscono esempio paradigmatico dei rischi derivanti dall’uso incontrollato dell’IA in ambito giudiziario.
Il fenomeno delle ‘allucinazioni’ dell’IA, se non sottoposto a verifica critica, è suscettibile di inficiare la validità e l’autorevolezza della decisione giudiziaria.
Alla luce del quadro costituzionale e del Regolamento europeo (AI Act), l’impiego di IA nel processo decisionale deve essere circoscritto a funzioni meramente strumentali e preparatorie, restando esclusa qualsiasi forma di sostituzione dell’attività valutativa del giudice.
È necessaria l’adozione di rigorosi protocolli di controllo umano sia da parte dei difensori, sia da parte dei giudici, affinché l’utilizzo della tecnologia non comprometta i principi del giusto processo e la tutela dei diritti fondamentali.
Anche questi casi sono molto significativi sull’uso non sempre appropriato dell’intelligenza artificiale nel settore legale, evidenziando la necessità di verificare sempre le informazioni generate da strumenti di IA e di rivolgersi solo a professionisti accreditati o quando è necessario un intervento legale per valutare un caso concreto.
Se hai un dubbio, hai bisogno di una consulenza legale, contattaci https://studiolegalefaraci.ch