I rilevatori di scrittura AI sono strumenti promettenti per identificare il testo generato da AI, ma presentano ancora sfide significative. Possono produrre falsi positivi e possono essere influenzati dai pregiudizi degli esseri umani.
Nell’era della intelligenza artificiale generativa, scatenata dall’arrivo, a fine 2022, di ChatGPT, il sistema AI ideato da OpneAI, il tema centrale resta la generazione dei testi e come usare questi strumenti nella maniera più efficace possibile.
Si tratta di un tema non da poco, ma va detto che questi strumenti possono essere molto utili, se maneggiati con cura e attenzione, evitando di affidarsi completamente a ciò che realizzano. Infatti, è molto facile incorrere in situazioni imprecise, non corrette che rischiano di alimentare false notizie, disinformazione.
Tutto questo lo si può evitare se si accorda un livello di attenzione molto alto e un’attività adeguata di verifica delle informazioni, per evitare, come dicevamo prima, di essere diffusori di notizie non vere.
Ma come? Stiamo parlando di intelligenza artificiale, sistemi molto complessi e precisi, perché bisogna apprestare attenzione ulteriore? Domande lecite, ma fino ad un certo punto. E questo perché questi sistemi, molto spesso, non sono aggiornatissimi e non sono precisi nel rilasciare testi.
Apparentemente sembrano esaustivi, ma con un po’ di attenzione ci si accorge che le informazioni contenute nel testo possono essere imprecise.
E questo dipende dai sistemi non aggiornati, appunto, e anche dalle richieste (prompt) che vengono rivolte alla AI. Una domanda o una richiesta posta male, porta la AI a rilasciare una informazione non corretta.
Il tema che vogliamo trattare adesso riguarda quelli che si chiamano rilevatori di scrittura AI, ossia dei sistemi, a loro volta costituiti da sistemi AI, che aiutano a comprendere se il testo che state leggendo da un sito, un blog o un giornale online è stato redatto da un umano o da una intelligenza artificiale.
Stiamo parlando quindi di sistemi che possono sbagliare, non sono infallibili infatti e, anche questi, sono da usare con molta cautela.
I rilevatori di scrittura AI rappresentano strumenti interessanti per identificare il testo generato da una AI, ma presentano ancora sfide significative. I rilevatori esistenti sono ancora per lo più inaffidabili e possono essere facilmente superati nel parafrasare un testo o altri situazioni.
Come funzionano i rilevatori di scrittura AI?
I rilevatori di scrittura AI funzionano identificando caratteristiche linguistiche che sono più comuni nel testo generato da AI rispetto al testo scritto dagli umani. Ad esempio, i rilevatori di scrittura AI possono cercare parole o frasi comuni nel testo generato da AI, come “Questo articolo è stato generato da AI” o “Questo articolo è stato scritto da un modello di linguaggio“. Questi strumenti possono anche cercare strutture di frasi o modelli di punteggiatura che sono più comuni nel testo generato da AI rispetto al testo scritto dagli umani.
Quali sono i limiti dei rilevatori di scrittura AI?
Questi strumenti, come dicevamo prima, presentano una serie di limiti. Innanzitutto, i rilevatori esistenti sono poco affidabili.
Ad esempio, se un essere umano parafrasasse il testo generato da AI, il rilevatore di scrittura AI potrebbe non riuscire a rilevare che il testo è stato generato da AI. In secondo luogo, i rilevatori di scrittura AI sono stati messi sotto accusa mostrando pregiudizi contro i non madrelingua inglesi.
LEGGI ANCHE:
Su Internet si parla per lo più Inglese, un rischio per l′AI
Questo perché i rilevatori di scrittura AI sono addestrati su set di dati di testo che sono in gran parte composti da testo scritto da madrelingua inglesi. Di conseguenza, i rilevatori di scrittura AI possono essere più propensi a identificare il testo scritto da non madrelingua inglesi come generato da AI, anche se non lo è.
A proposito della lingua inglese molto presente vi invitiamo a leggere anche questo articolo proprio su questo tema.
Come dicevamo, i rilevatori di scrittura AI sono uno strumento promettente per identificare il testo generato da AI, ma presentano ancora sfide significative. Uno dei problemi che si sta presentando, di frequente, è che possono produrre dei “falsi positivi”, ciò significa che possono identificare il testo scritto da esseri umani come scritto da AI.
Si tratta di una situazione che può accadere per una serie di motivi, tra cui la somiglianza tra il testo scritto da esseri umani e il testo scritto da AI, e il fatto che i rilevatori di scrittura AI possono essere addestrati su set di dati di testo che non sono rappresentativi di tutti i tipi di testo scritto da esseri umani.
Un recente esempio di un “falso positivo”, di cui negli Usa si è molto parlato, si è verificato quando un rilevatore di scrittura AI – GPTZero – ha definito il testo della Costituzione degli Stati Uniti come se fosse stato scritto da una intelligenza artificiale generativa.
Un caso impossibile, ovviamente, per il fatto che, come tutti sappiamo, la Costituzione degli Stati Uniti è stata scritta da esseri umani nel 1787. Da gente come Benjamin Franklin, per intenderci. Pare che casi simili abbiano riguardato anche porzioni di testo presi dalla Bibbia a fatti analizzare da questi rilevatori.
In ogni caso, per provare a capire meglio cosa può succedere in casi come questi, il rilevatore di scrittura AI è stato in grado di generare un falso positivo perché il testo della Costituzione degli Stati Uniti è scritto in un linguaggio chiaro e conciso, che è simile al linguaggio che viene spesso utilizzato dai modelli di apprendimento automatico.
Questo esempio, come tanti altri, dimostra che i rilevatori di scrittura AI non sono perfetti e che dovrebbero essere utilizzati con estrema cautela. Non dovrebbero essere utilizzati come sostituti del giudizio umano e non dovrebbero essere utilizzati per prendere decisioni importanti senza effettuare, opportunamente, ulteriori verifiche.
Migliorare i rilevatori di scrittura AI
C’è una serie di cose che può essere fatta per migliorare i rilevatori di scrittura AI. Prima di tutto, i rilevatori di scrittura AI possono essere addestrati su set di dati di testo più grandi e diversificati. Questo potrebbe aiutare a ridurre i pregiudizi nei rilevatori di scrittura AI.
In secondo luogo, possono essere sviluppati nuovi metodi per rilevare il testo generato da AI che non si basa esclusivamente sulle caratteristiche linguistiche. Ad esempio, i rilevatori di scrittura AI possono essere addestrati a rilevare modelli di comportamento degli utenti che sono più comuni quando gli utenti interagiscono con testi generati da AI rispetto ai testi scritti dagli umani.
Infine, i rilevatori di scrittura AI possono essere adattati per tenere conto dei pregiudizi esistenti. Ad esempio, possono essere addestrati a dare un peso inferiore al testo scritto da non madrelingua inglesi.
Il futuro dei rilevatori di scrittura AI
I rilevatori di scrittura AI hanno il potenziale per migliorare l’affidabilità e l’efficienza di una varietà di attività, tra cui la verifica di fatto, la valutazione dell’originalità e il rilevamento della disinformazione. Continuando a sviluppare e migliorare questi strumenti, possiamo sfruttare il potere dell’IA per rendere l’attività generativa sicuramente più affidabile e sicura. Vedremo se davvero sarà così.
Il tema del bias credo sia centrale nel dibattito a breve termine sulla AI, le fonti oggi usate come scrivevo qui https://t.me/gianluigizarantonello/282 sono tutt’altro che plurali e si portano dietro tutti gli stereotipi che fanno parte del nostro vissuto. Ne riflettevo anche qui https://t.me/gianluigizarantonello/293, dove la mia conclusione è unire i puntini è un esercizio difficile ma necessario, senza né farsi prendere dall’ansia della rincorsa dell’innovazione né lasciando totalmente senza paletti delle tecnologie potenti e trasformative come quelle di cui parliamo oggi.