Applicazioni di Intelligenza artificiale generativa e il problema della verifica delle fonti.

Le applicazioni basate su modelli di linguaggio come ChatGPT, Perplexity o altre, si fondono su un principio essenziale: la capacità di generare nuovi contenuti.

Questo aspetto, reso possibile da parametri come il “peso” e soprattutto la “temperatura”, permette alle applicazioni di AI di produrre contenuti creativi che non si limitano a replicare informazioni già esistenti, ma creano testi, immagini, video o altri output che possono sorprendere per coerenza e originalità.

Tuttavia, proprio questa creatività implica che i modelli di IA generativa non siano strumenti di precisione assoluta né fonti certificate, ma strumenti progettati per supportare e stimolare la nostra capacità creativa.

Chi si stupisce di questo aspetto, e le critica rimanendone deluso, dimostra di non conosce lo strumento e i suoi principi fondanti.

Proviamo a capirne di più.

La “temperatura” è un parametro tecnico che regola il livello di imprevedibilità nelle risposte generate dall’IA. Una temperatura alta favorisce risposte più creative e variegate, ma anche più suscettibili ad aberrazioni o errori, mente una temperatura bassa produce risposte più prevedibili e “sicure”, ma meno originali.

Questo meccanismo non è un limite, bensì una caratteristica fondamentale di tutte le applicazioni basate sui Large Language Models (LLM). Senza questa dose di variabilità, l’IA non potrebbe fornire quel supporto creativo che oggi la rende uno strumento versatile e apprezzato in diversi ambiti, dalla scrittura alla programmazione, fino alla progettazione grafica.

È quindi normale che si verifichino errori, distorsioni o risposte inesatte.

Anzi, dovendo rispondere alle nostre specifiche richieste, produce generalmente contenuti in linea con il nostro “input” risultando talvolta orientata come a darci sempre ragione.

Tuttavia, è importante sottolineare che nessuno ha mai sostenuto che un’applicazione di IA generativa debba essere vista come un’autorità certificata.

Il suo scopo non è sostituire le nostre competenze, ma amplificarle stimolando nuove idee oppure velocizzando processi più o meno complessi. Affidarsi ciecamente all’IA, aspettandosi risposte sempre corrette e complete, equivale quindi a fraintendere il suo ruolo.

Detto questo, gli strumenti di IA generativa oggi stanno migliorando anche la raccolta dei contenuti offrendo diverse soluzioni per mitigare il rischio di errore, tra cui funzioni per la verifica delle fonti.

Questi strumenti non sono ancora perfetti, ma rappresentano un netto passo avanti per migliorare l’affidabilità del processo creativo. Detto questo, anche i motori di ricerca classici possono cadere negli stessi errori quando ci segnalano siti non certificati o anche solo non verificati.

In conclusione potremmo dire che verificare le informazioni è ciò che fa sempre la differenza. Come attenuante generica per chi critica aspramente questi strumenti, è giusto ricordare la facilità nel cadere in inganno visto che ci vengono presentate come “intelligenti”.

Il potenziale delle applicazioni di IA non risiede pertanto nella loro capacità di essere infallibili, ma nella loro capacità di supportare il nostro lavoro, stimolando la nostra creatività e fornendo nuovi spunti.

L’errore, quando presente, non è un fallimento ma una caratteristica intrinseca di un sistema pensato per generare.

A rigor del vero, con gli opportuni strumenti messi a nostra disposizione e specifiche configurazioni, potremmo addirittura limitare il loro ambito di applicazione e forzarle a pescare dai nostri archivi certificati per generare risposte più sicure.

Come sempre in ogni ambito, la responsabilità ultima rimane - e deve rimanere - in mano a chi utilizza lo strumento, non alla macchina stessa.