Un giudice annulla un processo scoprendo che gli avvocati hanno usato ChatGPT

Un giudice degli Stati Uniti ha annullato un processo dopo che è emerso che gli avvocati di entrambe le parti avevano utilizzato ChatGPT per preparare i loro documenti legali. I quattro avvocati coinvolti avevano citato sentenze inesistenti, generate da strumenti di intelligenza artificiale che semplicemente avevano prodotto giurisprudenza inventata. Non solo la giudice ha sospeso il processo, ma ha espulso tutti gli avvocati coinvolti e li ha multati.

Il caso

Il caso, come riportato da 404 Media, riguardava una disputa contrattuale sui compensi legali tra l'avvocato Tom Withers e la città di Aberdeen, Mississippi. A prima vista, un aspetto apparentemente trascurabile. Tuttavia, il caso ha acquisito particolare rilevanza perché entrambe le parti hanno utilizzato l'intelligenza artificiale per costruire i propri argomenti legali.

L'avvocato Rob Freund, che segue con interesse casi del genere, ha definito il caso una “commedia degli errori dell’IA”, in cui due clienti stavano di fatto pagando per permettere a ChatGPT di scontrarsi con se stesso. Questo ha scatenato la perdita della pazienza della giudice Sharion Aycock.

Le conseguenze

La giudice ha precisato che il tribunale era "una volta di più" alle prese con gli errori generati dall'IA nei documenti legali. Ha anche sottolineato come l’episodio rappresenti un esempio chiaro di come molte persone approvino i risultati prodotti da questi strumenti senza verificarne la veridicità.

Due degli avvocati coinvolti sono stati sospesi da un tribunale per due anni e hanno ricevuto multe che vanno da 1.000 a 3.500 dollari, a seconda del livello di responsabilità.

Le testimonianze

Nell'udienza del gennaio, i quattro avvocati coinvolti hanno espresso vergogna e chiesto scusa per il loro comportamento. Uno riconobbe esplicitamente di aver utilizzato l'intelligenza artificiale per ricerche legali. Un’altra confessò di aver usato uno strumento chiamato First Drafts per redigere interamente gli scritti.

• Due avvocati dichiararono di aver semplicemente firmato documenti preparati con l’AI senza nemmeno controllarli.
• Uno di loro continuò a utilizzare l’IA senza nemmeno verificare i dati in essa contenuti.

Kathleen Wilson e Kathryn Williams

Una delle figure più interessanti di questa vicenda è Kathleen Wilson, una delle quattro avvocate coinvolte. Dopo essere stata punita nel caso di Mississippi, la Wilson ha continuato a utilizzare l'intelligenza artificiale in altri procedimenti legali senza verificare i risultati generati. Altri giudici hanno trovato errori significativi nei suoi scritti legali del mese di aprile, appena quattro mesi dopo che la giudice Aycock le aveva chiesto chiaramente di fornire spiegazioni.

L’altra avvocata, Kathryn Williams, utilizzò uno strumento di ricerca legale dichiarato sicuro dal suo stesso produttore. Il problema? Questo strumento era stato sviluppato per la giurisdizione ordinaria del suo studio legale, non per gli aspetti giuridici del Mississippi. Questo dettaglio ha reso inadatto il software al contesto legale dello specifico caso.

Una tendenza crescente

Questo episodio rientra in una tendenza che i tribunali statunitensi si trovano a gestire sempre più frequentemente. Giudici di tutto il paese continuano a esprimere frustrazione per il comportamento degli avvocati che presentano citazioni giurisprudenziali inventare prodotte da grandi modelli linguistici, senza verificare se siano reali.

La settimana prima di questo caso, un tribunale di New York ha dovuto affrontare una situazione simile. Anche lì si sono rilevati documenti legali con riferimenti giurisprudenziali falsi, generati con l’ausilio di strumenti di intelligenza artificiale.

L’importanza della verifica

Il problema fondamentale non è l’uso dell’intelligenza artificiale in sé, ma l’assenza di verifica. Nessuna di queste strumento è in grado garantire la precisione delle informazioni prodotte, specialmente in contesti legali complessi, dove la correttezza può compromettere il destino di un caso. Per questa ragione fidarsi ciecamente dell’IA per redigere documenti legali da presentare a un giudice ha conseguenze molto concrete.

Nel caso del Mississippi, il processo è stato annullato e tutti gli avvocati interessati hanno ricevuto sancioni esemplari. Ma chi ha pagato davvero il prezzo? I clienti. Hanno investito soldi in un servizio che non è stato in grado di fornire loro l’assistenza necessaria. Un esempio inquietante di quanto l'intelligenza artificiale possa compromettere la qualità del lavoro legale, quando non utilizzata con attenzione e controllo.