Il caso del romanzo C’était ça ou mourir, squalificato dal premio letterario Goncourt, ha mostrato quanto è complesso dimostrare l’utilizzo delle AI e riacceso il dibattito su quanto sia etico farlo

Si chiamano AI detector, o rilevatori AI, e dovrebbero – il condizionale è d’obbligo – riconoscere se un testo è umano o è scritto da un’intelligenza artificiale. Le analisi di questi strumenti mostrano il proliferare dei cosiddetti contenuti sintetici: oggi quasi una pagina web su dieci mostra un intervento AI e nel mercato librario addirittura il 20% degli ultimi testi autopubblicati sono segnalati come parzialmente artificiali.

L’ultima vittima è il romanzo C’était ça ou mourir (“Era questo o morire”) di Thélyson Orélien. Lo scrittore è stato accusato da un tweet anonimo di “Balance ton Claude” (letteralmente “denuncia il tuo Claude”), rivendicato poi dal saggista Samuel Fitouss. «Abbiamo testato diversi passaggi, in vari punti del manoscritto, ottenendo quasi sempre lo stesso risultato: 100% AI», si legge nel post.

Il dibattito sul libro ha raggiunto i giornali francesi e internazionali, sfociando anche in segnalazioni di presunti plagi e in contro-accuse che vedevano un disegno politico dietro la polemica: Orélien ha infatti origini haitiane, è nero e il suo romanzo tratta il tema autobiografico della migrazione.

Le segnalazioni sono arrivate alla commissione del prestigioso premio letterario francese Goncourt, che ha escluso il romanzo dalla selezione. La volontà era di «tutelare l’integrità del premio» e continuare a «promuovere e onorare la letteratura scritta da donne e uomini».

L’autore ha però negato le accuse («Ho sempre amato creare e scrivere, non vedo perché avrei dovuto usare una macchina»), ed è stato difeso anche dal suo editore francese. Orélien ha spiegato al quotidiano Libération che «immagini, ripetizioni e ritmi sono una parola viva» e che sarebbero, indiscutibilmente, suoi.

Se nel suo comunicato l’Académie Goncourt cita analisi secondo cui il romanzo sarebbe «con ogni probabilità» prodotto dall’intelligenza artificiale, è altrettanto vero che non è ben definito che cosa questo significhi. I modelli linguistici, come ChatGPT e Claude, hanno varie funzioni: possono correggere, cercare, scrivere.

Uno studio del 2025 ha poi dimostrato che un piccolo intervento AI può portare a grandi cambiamenti nei risultati dei migliori rilevatori, come Pangram e GPTZero. Sono stati analizzati testi completamente umani, a cui però erano state apportate delle modifiche molto lievi. Dalle analisi dei software i contenuti sono risultati per oltre il 50% sintetici.

Il programma utilizzato per determinare la sinteticità del romanzo è proprio Pangram, definito dal New York Times il “gold standard” tra i rilevatori. Il Ceo della compagnia, Max Spero, ha detto a Le Monde di non avere mai visto «un punteggio così alto su un libro», il 95%.

La percentuale ha però un significato ambiguo. Secondo il manuale del software si tratta della quota di testo «generata o assistita dall’AI», ma le due espressioni hanno un significato differente.

Lo stesso Spero ha poi specificato che «parliamo pur sempre di analisi statistica». I rilevatori ricercano infatti le regolarità nella scrittura, e non sono considerati una prova inconfutabile.

Oggi lo strumento più diffuso è proprio Pangram, che funziona in modo abbastanza sofisticato. I primi esemplari misuravano principalmente il grado di perplessità (perplexity), ovvero quanto ogni parola di un testo risulta diversa da quella attesa. Affidarsi solo a questo indicatore portava facilmente a falsi positivi (soprattutto nell’analisi di testi scritti in modo piatto o con uno stile impersonale), ed è per questo che i sistemi più recenti utilizzano una fase di addestramento: scansionano molti esempi di testi umani e artificiali e “imparano” a distinguerli, con un certo margine di errore.

Il risultato è, secondo quanto diffuso dalla stessa Pangram, un successo nella riduzione degli sbagli. I test condotti dalla compagnia sulle pagine web scritte prima della diffusione di ChatGPT avrebbero infatti un tasso di falsi positivi dello 0,0026%.

Il problema nei casi misti, tuttavia, rimane. Se un testo è frutto dell’ingegno umano ma è scritto anche attraverso l’ausilio dell’intelligenza artificiale, come dovrebbe essere classificato?

In una rassegna di studi sull’attribuzione dei testi, alcuni ricercatori del campo dell’informatica hanno notato che la distinzione tra umano e macchina non è sufficiente nei casi – sempre più diffusi – in cui la scrittura passa più volte dall’uno all’altro.

Nei contenuti in cui vi è una collaborazione con l’AI le tracce stilistiche si mescolano ed è molto difficile dimostrare se e come è intervenuta la macchina. Possono verificarsi errori sia in un senso (falso positivo) che nell’altro (falso negativo) e i rilevatori non solo faticherebbero a distinguere i casi, ma non saprebbero come interpretare il nuovo linguaggio ibrido.

Fonte: Il Sole 24 Ore