L’ho fatto anch’io, en fin: ho provato l’intelligenza artificiale.

Ho digitato alcune domande e risposte su Google Bard, anche provando a richiedere questioni specifiche.

In alcuni casi, chiedevo di citare le fonti di quello che veniva detto.

E immancabilmente, l’IA citava. Ho pensato che fosse un buonissimo risultato, almeno fino a che non ho verificato le fonti: nella maggior parte dei casi, non esistevano.

Ecco che dopo qualche ricerca sul perché di questa incredibile défaillance, accerto un nuovo concetto prima ignoto: quello dell’allucinazione dell’Intelligenza Artificiale.

Che cos’è l’allucinazione dell’IA

Questo fenomeno si verifica quando un modello di IA genera dati o risposte che sembrano non avere alcun senso logico o connessione con quanto richiesto, oppure sono completamente e palesemente inventati.

Ad esempio

Ho chiesto a Google Bard di scrivermi una bozza di tesi di laurea, con tanto di fonti da citare, che parlasse della gestione della sovrappopolazione nei Paesi del terzo mondo. La risposta di scaletta è stata anche coerente, con una serie di titoli di capitoli e di paragrafi.

Poi ho richiesto al motore di ricerca di inserire la bibliografia.

Ha inserito qualche articolo di giornale, che non ho verificato.

Gli ho chiesto di inserire qualche testo universitario. 

E qui, una sfilza di titoli.

Ne ho cercati diversi, ma col medesimo risultato: non esistevano!

Quali sono le cause?

Le cause tecniche sono varie, e prevedono l’uso di dati di addestramento inadeguati, o eccessivi, o dei problemi nel modello informatico dell’apprendimento stesso.

Oppure, i dati forniti all’intelligenza artificiale potrebbero essere stati troppo “ambigui”, ovvero zeppi di ciò che noi umani usiamo di più per esprimerci: metafore, sfumature, complessità, espressioni idiomatiche e altro.

Per affrontare questo fenomeno, gli sviluppatori di IA stanno provando a contrastare direttamente le cause – e qui non mi dilungo perché è un settore complesso e che non conosco abbastanza.

Però mi voglio prendere del tempo per leggere qualcosa in merito, e capire se è possibile trovare tra l’allucinazione della macchina e quella umana alcune somiglianze che possono risultare interessanti.
Aggiorniamoci!