Perché l’intelligenza artificiale sbaglia? Libri da leggere sotto l’ombrellone che però non esistono. Avvocati che presentano memorie difensive piene di precedenti inventati. Articoli scientifici in cui vengono citati studi che nessuno ha mai effettuato. L’elenco potrebbe andare avanti a lungo, ma l’aspetto importante è un altro: in tutti questi casi, gli errori non sono stati commessi da esseri umani, ma dalle intelligenze artificiali.
O meglio, gli esseri umani hanno sbagliato ad affidarsi eccessivamentesenza verificarli, ai risultati forniti dai modelli linguistici che alimentano ChatGPTClaude O Gemelli. E così facendo sono diventati vittime delle ormai note “allucinazioni” delle intelligenze artificialiquando cioè un sistema di AI generativa si presenta come se fosse un fatto un’informazione invece sbagliata o completamente inventata.
Punto chiave
Che cosa sono le allucinazioni dell’intelligenza artificiale
Mamma perché le AI sbagliano? E che cosa si può fare per eliminare, o almeno ridurre, un problema che ha già avuto gravi conseguenze e che ci costringe – o almeno dovrebbe costringerci – a verificare attentamente qualsiasi informazione fornito dai grandi modelli linguistici?
Per capire che cosa causa le allucinazionibisogna risalire al funzionamento dei modelli linguisticiche è basato su un meccanismo chiamato “previsione del prossimo token”. Con il termine “token” si intendono gli elementi linguistici (una parola, un gruppo di parole, i simboli della punteggiatura e altro ancora) con cui il modello lavora durante la generazione del testo. “Prediction” indica invece che il sistema di intelligenza artificiale si limita a calcolare statisticamente quale sia il token che ha la maggiore probabilità di essere coerente con quelli che l’hanno preceduto, senza possedere però un meccanismo che permette di distinguere ciò che è vero da ciò che è semplicemente plausibile.
“Plausibile” e “coerente” non significano però “vero”, e una stima probabilistica può inevitabilmente essere sbagliata. Se per esempio chiediamo a ChatGPT di concludere la frase “sto portando il cane a fare una”il sistema di OpenAI non avrà alcuna difficoltà a comprendere che la parola giusta da inserire sia “passeggiata”. All’aumentare della complessità del tema trattato e di quanto sia ampio il contesto da prendere in considerazione, aumenta però anche la possibilità che il modello linguistico sbaglifornisca un’informazione sbagliata e sia quindi vittima delle famigerate “allucinazioni” (chiamate anche “confabulazioni”).
Quanto sbaglia l’intelligenza artificiale
Venire spiegato in una lunga analisi pubblicata dall’Economista, “ogni token presente nel dataset con cui è stato addestrato il modello linguistico (che contiene miliardi di testi estratti dal web, ndR) deve avere una probabilità di venire selezionato superiore a zerodando così al sistema la flessibilità necessaria per apprendere nuovi pattern, ma creando anche il rischio di generare informazioni scorrette. Il problema fondamentale è che i modelli linguistici sono probabilistici, la verità invece non lo è“.
