Sistemi di intelligenza artificiale

È un contenzioso che sta nascendo adesso, e su cui circolano tanto l'idea che non si possa accertare nulla quanto quella opposta. Sono false entrambe. Molto si può accertare; alcune cose no, ed è importante sapere quali prima di impostare una causa.

Da dove nascono le controversie

• Fornitura di un sistema che non funziona come promesso. Un assistente automatico che risponde in modo errato, un sistema di classificazione che sbaglia oltre la soglia pattuita, un servizio che costa in esercizio un multiplo di quanto preventivato.
• Danno causato da un output. Un contenuto diffamatorio, una risposta che ha indotto una decisione dannosa, una raccomandazione errata.
• Dati usati per l'addestramento. Materiale protetto dal diritto d'autore, dati personali trattati senza base giuridica, informazioni riservate finite in un sistema di terzi.
• Paternità del prodotto. Chi ha scritto un testo o un programma: una persona o un sistema generativo? La domanda ha conseguenze sul diritto d'autore e, in ambito accademico e professionale, disciplinari.

Che cosa si può accertare

Come il sistema è costruito

Questa è la parte solida. Un sistema basato su modelli linguistici non è una scatola nera indistinta: è un'architettura fatta di componenti identificabili — quale modello viene interrogato e in quale versione, quali istruzioni di sistema gli vengono anteposte, quali documenti gli vengono forniti al momento della richiesta in un'architettura di tipo RAG, quali strumenti esterni può azionare, quali controlli sono stati posti sull'output. Tutto questo si legge nel codice e nella configurazione, e si confronta con quanto era stato contrattualizzato.

Nella maggioranza delle cause su forniture è qui che si trova la risposta: non nel comportamento statistico del modello, ma in ciò che il fornitore ha costruito attorno ad esso e in ciò che ha dichiarato di aver costruito.

Che cosa è stato realmente chiesto e risposto

Se il sistema conserva i registri delle interazioni — e i sistemi seri li conservano, perché servono a farli funzionare — si può ricostruire con precisione ogni singola richiesta: il testo inviato, il contesto aggiunto automaticamente, la risposta prodotta, il modello e la versione impiegati, gli eventuali strumenti invocati. È materiale ordinario di analisi forense e si tratta come qualunque log.

Il punto critico è la conservazione: molti fornitori li mantengono per finestre brevi. Nella causa su un output generativo, la prima cosa da fare è chiederne il congelamento.

La riproducibilità, con una precisazione

«Può dimostrare che quel sistema, con quella domanda, dava quella risposta?» La risposta onesta è: si può dimostrare che può darla, non che l'abbia necessariamente data in quel momento. I modelli generativi sono per costruzione non deterministici, salvo configurazioni che ne annullano la casualità; e il fornitore aggiorna il modello e le istruzioni nel tempo, spesso senza versionarli pubblicamente.

Nella pratica questo significa che una riproduzione riuscita è un elemento probatorio forte — mostra che l'output contestato rientra nel comportamento del sistema — mentre una riproduzione fallita prova molto meno di quanto sembri, perché può dipendere da un aggiornamento intervenuto nel frattempo. Chi presenta un risultato del genere senza segnalare la differenza sta forzando la conclusione.

Origine di un testo o di un'immagine

Su questo la prudenza deve essere massima, e vale la pena essere espliciti perché sono in circolazione affermazioni non sostenibili. Gli strumenti che dichiarano di riconoscere un testo generato da un modello linguistico hanno tassi di errore alti e sistematicamente sfavorevoli a chi scrive in una lingua che non è la propria: non sono utilizzabili come prova, e presentarli come tali è scorretto.

Diverso è il caso dei metadati e delle marche tecniche: alcuni sistemi di generazione inseriscono nei file prodotti informazioni di provenienza o filigrane, e il documento in cui un testo è stato scritto conserva una cronologia di modifiche che racconta se sia stato digitato o incollato. Sono elementi indiziari reali, che si acquisiscono e si valutano; l'analisi «stilistica» automatica no.

Perché posso occuparmene

Perché questi sistemi li ho costruiti e mandati in produzione: architetture RAG, sistemi a più agenti, gestione del ciclo di vita di componenti generativi con prototipazione, test, rilascio e monitoraggio. So dove un fornitore scrive i log e dove no, quali configurazioni cambiano il comportamento del modello, quali promesse commerciali non hanno un corrispettivo tecnico. È una competenza che oggi pochi consulenti tecnici possono portare in un'aula.

Approfondimento: contenziosi sui sistemi di intelligenza artificiale →