Il caso degli Avvocati Schwartz e LoDuca di New York
Questo caso rappresenta un esempio emblematico di come il rapporto tra IA e diritto stia trasformando la professione legale.
Il tema IA e diritto è oggi centrale nel dibattito legale e tecnologico. Gli strumenti di IA possono essere utili per alcune attività ma non possono sostituire il controllo umano, specialmente quando si tratta di giurisprudenza e atti giudiziari. In tribunale, ogni parola e ogni citazione devono avere un fondamento certo, perché le decisioni prese possono cambiare la vita delle persone coinvolte. Per questo motivo, un margine di errore è molto più grave che in altri contesti professionali.
Gli avvocati Steven Schwartz e Peter LoDuca di New York sono diventati noti per un clamoroso errore professionale legato all’uso di IA e diritto in una causa legale, si sono serviti di ChatGPT per ricercare precedenti giuridici in una causa contro una compagnia aerea. All’inizio l’uso dell’intelligenza artificiale sembrava una scorciatoia innovativa e veloce, capace di sostituire ore di ricerca in manuali e banche dati legali.
Purtroppo per loro, i casi citati nel loro memorandum e sottoposti alla Corte competente erano completamente inventati dall’IA. Non solo i titoli delle sentenze, ma anche i nomi dei giudici, le date e i riferimenti normativi erano frutto di pura invenzione. Il documento appariva formalmente corretto, ma privo di qualsiasi riscontro reale. Questo episodio è diventato un esempio concreto dei rischi che nascono quando IA e diritto si incontrano senza un’adeguata supervisione da parte degli avvocati.”
Correttamente l’Avv. Schwartz ha ammesso di aver utilizzato ChatGPT per la ricerca, senza verificarne l’attendibilità e il collega Peter LoDuca, che aveva sottoscritto l’atto di causa, ha dichiarato di non essere a conoscenza del metodo con cui erano stati trovati i casi. Questa dinamica ha mostrato quanto sia rischioso affidarsi a strumenti nuovi senza avere un’adeguata formazione e senza un controllo reciproco tra colleghi di studio legale.
Le Conseguenze
Nel giugno 2023 entrambi gli avvocati sono stati sanzionati con una multa di 5.000 dollari con l’obbligo di informare i loro clienti dell’accaduto. Il giudice ha sottolineato che il problema non era l’uso dell’IA in sé, ma il mancato controllo e la presentazione di informazioni false alla Corte. La sentenza è stata vista come un monito per tutta la categoria forense, soprattutto quando si parla di IA e diritto: innovare sì, ma sempre con responsabilità.
Anche dal profilo del rispetto della deontologia professionale, gli avvocati hanno ricevuto una severa sanzione dal loro Ordine di appartenenza. Questo ha inciso sulla loro reputazione e sulla fiducia che i clienti ripongono nello studio legale, ricordando che l’etica professionale è alla base del rapporto avvocato-cliente.
L’IA aveva inventato i casi legali perché ChatGPT (e altri modelli di linguaggio simili) non è un motore di ricerca, né un database giuridico, ma un sistema che genera testo in base ai modelli linguistici appresi.
Il fenomeno che ha colpito gli avvocati Schwartz e LoDuca è noto come “allucinazione” dell’IA, ossia la tendenza a generare contenuti falsi ma credibili.
Questo accade perché:
Prevede il testo più plausibile
ChatGPT non recupera dati da fonti ufficiali, ma genera risposte basandosi sulle probabilità di successione delle parole. Se gli viene chiesto di fornire un caso legale, costruisce un testo che “suona” realistico, ma non necessariamente basato su casi reali.
Manca di accesso a database giuridici aggiornati
ChatGPT non può accedere a LexisNexis, Westlaw o archivi giudiziari ufficiali, quindi non ha un riferimento verificabile. Ciò significa che ogni risposta è il frutto di un addestramento statico, non di una ricerca in tempo reale nelle fonti specialistiche.
Tende a completare informazioni mancanti
Se viene chiesto di citare giurisprudenza, ma non ha accesso a fonti affidabili, l’IA può inventare nomi di casi, date e sentenze, pur mantenendo una forma linguistica corretta. Questo rende le sue risposte particolarmente insidiose, perché a un occhio inesperto sembrano perfettamente attendibili.
Può confermare erroneamente le sue risposte
Se gli viene chiesto: “Questi casi sono reali?”, ChatGPT potrebbe rispondere affermativamente anche se non lo sono, perché il suo scopo è fornire risposte coerenti con la conversazione, non verificare la veridicità delle informazioni. Il modello non distingue tra vero e falso, ma solo tra testi che “suonano” coerenti o meno.
Morale della storia?
L’errore degli avvocati Schwartz e LoDuca non è stato tanto l’uso dell’IA, ma l’aver accettato i risultati senza verificarli. L’IA può essere un supporto utile, ma nel diritto (e in ogni settore basato su fatti concreti) la verifica delle fonti resta essenziale, specialmente nel rapporto tra IA e diritto.
Questo caso è diventato un monito sull’uso dell’intelligenza artificiale nel settore legale, evidenziando la necessità di verificare sempre le informazioni generate da strumenti di IA e di rivolgersi solo a dei professionisti accreditati in caso di dubbio o quando è necessario un intervento legale in un caso concreto. Questo episodio mette in evidenza come il dialogo tra IA e diritto non possa mai prescindere dal controllo umano.
Hai un dubbio o ti serve una consulenza legale? Contattaci: https://studiolegalefaraci.ch
Fonte: New York Times (https://www.nytimes.com/2023/06/22/nyregion/lawyers-chatgpt-schwartz-loduca.html)
