L’intelligenza artificiale nel processo tra efficienza e rischi di manipolazione

di Edoardo Ferragina

L’ingresso dei modelli linguistici avanzati e degli strumenti generativi nella pratica legale quotidiana ha superato la fase di mera sperimentazione, attestandosi ormai come realtà operativa consolidata. Per magistrati e avvocati queste tecnologie offrono indubbi vantaggi in termini di efficienza, dal momento che consentono la sintesi rapida di voluminosi fascicoli, l’estrazione mirata di dati contabili, l’organizzazione del contenzioso seriale e la velocizzazione delle ricerche dottrinali e giurisprudenziali. L’entusiasmo per l’innovazione non può tuttavia prescindere da un rigoroso inquadramento di tale fenomeno, poiché l’automazione incide direttamente sulle garanzie dello Stato di diritto, sul contraddittorio e sul principio del giusto processo ex articolo 111 della Costituzione.

Il quadro normativo europeo e nazionale ha tracciato confini precisi. Anzitutto, il Regolamento UE 2024/1689 (AI Act) adotta un approccio graduato per livelli di rischio e ricomprende tra i sistemi ad alto rischio, alle condizioni previste dall’articolo 6 e dall’Allegato III, quelli destinati ad assistere un’autorità giudiziaria nella ricerca e nell’interpretazione dei fatti e del diritto e nell’applicazione della legge. Su punto, va segnalato che l’applicazione del complesso degli obblighi previsti dall’AI Act per i sistemi ad alto rischio dell’Allegato III, inizialmente attesa per l’agosto 2026, è stata differita al 2 dicembre 2027 in forza dell’accordo provvisorio sul cosiddetto Digital Omnibus on AI del 7 maggio 2026. Si tratta di un rinvio tecnico che, come ha rimarcato lo stesso CSM, non attenua né i principi né le cautele nel frattempo raccomandate. In ambito domestico, la legge 23 settembre 2025, n. 132 ha chiarito all’articolo 15 che l’impiego dell’intelligenza artificiale è circoscritto all’organizzazione e al supporto strumentale, riservando in via esclusiva al magistrato l’interpretazione del diritto, la valutazione delle prove e la decisione.

Su questa linea si collocano le delibere degli organi di autogoverno della magistratura. Il Consiglio Superiore della Magistratura, con le raccomandazioni dell’8 ottobre 2025 e con il successivo aggiornamento del 22 luglio 2026, ha escluso ogni delega decisionale alla macchina, ammettendo l’uso controllato di applicativi autorizzati soltanto per compiti organizzativi o preparatori e prescrivendo una supervisione umana obbligatoria e “bloccante”, tale cioè da impedire la prosecuzione automatica del flusso di lavoro in assenza di espressa validazione del magistrato. Analogamente, il Consiglio di Presidenza della Giustizia Tributaria, con la delibera n. 275 del 3 marzo 2026, ha ribadito la centralità del libero convincimento del giudice ex articolo 116 del codice di procedura civile, escludendo forme di giustizia predittiva surrogatoria e ammettendo gli algoritmi unicamente come ausilio per l’auditing contabile, il vaglio delle consulenze peritali o la clusterizzazione dei ricorsi seriali. Sul versante dell’avvocatura, la Guida del CCBE (Consiglio degli Ordini Forensi d’Europa) sull’uso dell’intelligenza artificiale generativa del 2 ottobre 2025, diffusa in Italia dal Consiglio Nazionale Forense, richiama i difensori al dovere di competenza tecnologica, alla scrupolosa tutela del segreto professionale e al divieto di riversare dati riservati dei clienti in piattaforme commerciali prive di adeguate garanzie contrattuali di isolamento.

Il pericolo più noto resta quello delle cosiddette allucinazioni, ossia la generazione probabilistica di precedenti fittizi, massime inesistenti o norme abrogate presentate con apparente coerenza formale. La giurisprudenza di merito ha iniziato a confrontarsi con il fenomeno con crescente severità. In una prima pronuncia il Tribunale di Firenze (ordinanza del 14 marzo 2025), pur qualificando le allucinazioni come un rischio concreto per l’attività forense, aveva escluso la condanna per responsabilità aggravata, non ravvisando né la mala fede né la prova del danno richieste dall’articolo 96 del codice di procedura civile. L’orientamento si è però irrigidito e, tra gli altri, il Tribunale di Siracusa (sentenza del 20 febbraio 2026) e il Tribunale di Torino (Sez. Lav., sent. n. 2120 del 16 settembre 2025) a fronte della citazione di precedenti in realtà inesistenti, hanno ravvisato in tale condotta processuale una colpa grave rilevante ai fini della responsabilità aggravata ex articolo 96 c.p.c., sottolineando che l’impiego di sistemi generativi non esonera il difensore dall’obbligo di verificare le fonti ufficiali.

In altri termini, è ormai comune l’affermazione che riversare negli atti processuali citazioni inventate senza un previo controllo integra la violazione dei doveri di lealtà e probità ex articolo 88 c.p.c. ed espone, da un canto, la parte assistita alla condanna per responsabilità aggravata e lite temeraria e, dall’altro, il professionista a responsabilità professionali e a inevitabili sanzioni disciplinari (TAR Lombardia sent. 3348/2025).

Accanto al problema dell’output inesatto generato per negligenza, emerge oggi una minaccia ancor più insidiosa, ed ancora poco nota, legata alla manipolazione intenzionale dell’input mediante la tecnica del prompt injection. Il rischio è stato affrontato dalla Superior Court del Connecticut, Judicial District di Ansonia-Milford (sede di Milford), nella decisione del 6 agosto 2026 resa nel caso Elliott v. New York Bariatric Group, LLC. Nel giudizio un attore, che agiva personalmente e senza difensore, aveva inserito nelle proprie memorie digitali istruzioni occulte, redatte in carattere microscopico e in colore bianco su fondo bianco, invisibili all’occhio umano ma perfettamente leggibili da qualunque software di intelligenza artificiale che avesse elaborato l’atto. Il testo nascosto ingiungeva a ogni modello che avesse “letto” il documento di rendere un output allineato alle tesi dell’attore e di trattare come un errore da “rimediare” un precedente diniego della cancelleria, sollecitando l’accoglimento di un’istanza rifiutata.

Elemento decisivo, nell’economia della decisione, è che la condotta era deliberata e reiterata e, addirittura, pur avvertito dalla corte, l’attore aveva continuato a occultare messaggi negli atti successivi, giustificandosi poi come se si fosse trattato di uno “scherzo”. Proprio sul profilo dell’intenzionalità la vicenda si distingue dalla contigua ipotesi delle allucinazioni. Pochi giorni prima, nel caso Tov Realty, LLC v. Suarez, sempre la Corte Suprema del Connecticut aveva sanzionato il richiamo di citazioni di precedenti letteralmente inventate dall’IA, ma aveva valorizzato l’ammissione dell’errore della parte interessata e l’assenza di dolo come circostanze attenuanti. Nel prompt injection, invece, è proprio l’elemento doloso a qualificare l’abuso del processo.

Il giudice Walter M. Spader Jr. ha inquadrato la condotta come un tentativo fraudolento di inquinare il processo decisionale e come una lesione della parità delle armi, assimilabile a una comunicazione segreta rivolta all’organo giudicante o, con la metafora adottata in sentenza, a un contatto clandestino con un giurato. Quanto alla risposta dell’ordinamento, essa si è articolata su due piani. Sul versante sanzionatorio, in forza del potere inerente della corte sull’integrità del processo, è stata adottata la misura “più contenuta possibile”, ossia la revoca della facoltà di deposito telematico (e-filing), con obbligo di deposito esclusivamente cartaceo presso la cancelleria, senza tuttavia precludere all’attore l’accesso alla giustizia. La decisione poggia sulle nuove regole del Connecticut Practice Book (§ 4-9, in vigore dal 23 giugno 2026), che impongono a chi deposita un atto di verificare autonomamente ogni contenuto prodotto dallo strumento di IA e addossano la responsabilità della relativa conformità esclusivamente al depositante. È significativo, sullo sfondo, che in un precedente brasiliano, richiamato dalla stessa corte, il sistema di IA in dotazione all’ufficio giudiziario avesse intercettato e neutralizzato l’iniezione occulta del prompt, così dimostrando che si tratta di un fenomeno tutt’altro che isolato.

Tanto la vicenda americana quanto i numerosi precedenti della giurisprudenza italiana dimostrano che l’intelligenza artificiale non esonera il giurista dall’onere del controllo critico. Che si tratti di difendersi da allucinazioni involontarie o da istruzioni manipolatorie celate negli atti di controparte, l’ultima e insostituibile linea di difesa rimane la competenza, l’esperienza e il vaglio vigile del professionista umano.

Edoardo Ferragina è avvocato tributarista, iscritto all’albo speciale per il patrocinio davanti alla Corte di cassazione. Guida lo Studio Legale Tributario Ferragina & Partners, con sedi a Viareggio e Roma, e si occupa di contenzioso tributario. Svolge regolarmente attività di docenza e scrive su altre testate specializzate. È curatore della collana giuridica Diritto & Diritti e direttore della rivista giuridica Neotepa ed è iscritto all’Ordine dei Giornalisti della Toscana, elenco speciale, e cura per Toscana Today la rubrica Giuridica.