Quando un’intelligenza artificiale non sa una cosa, raramente lo comunica: costruisce comunque una risposta fluente, ordinata e scritta bene, anche quando il contenuto è completamente inventato. La forma non lo tradisce e non c’è necessariamente un’intenzione di ingannare: semplicemente, la macchina non sa fermarsi davanti a un vuoto e tende a riempirlo con qualcosa che abbia l’aspetto di una risposta.
Conosciamo questo comportamento anche fuori dal mondo delle macchine. Persone che hanno studiato un po’ di marketing, imparato qualche slogan efficace, pianificato un piano di comunicazione social e accumulato abbastanza esperienza si sentono autorizzate a parlare di qualunque cosa con grande sicurezza, anche quando la loro conoscenza di quella materia è molto più superficiale di quanto lascino intendere. Quando incontrano una domanda alla quale non sanno rispondere, invece di fermarsi e ammettere di non avere gli elementi necessari, costruiscono una spiegazione plausibile e la espongono con la stessa sicurezza con cui esporrebbero qualcosa che conoscono davvero.
Il problema, in entrambi i casi, non riguarda soltanto chi parla, perché una parte importante della responsabilità sta anche in chi ascolta. Un testo scritto bene, una presentazione convincente o una persona capace di esprimersi con sicurezza possono facilmente creare l’impressione che dietro ci sia una competenza proporzionata alla qualità dell’esposizione. E così si finisce per confondere la qualità della forma con la solidità del contenuto, senza fare più la domanda più semplice: questa cosa è vera oppure semplicemente sembra vera?
L’intelligenza artificiale sta rendendo questo problema ancora più evidente anche sul piano umano. Prima, inventare un discorso credibile su un argomento che non si conosceva richiedeva almeno un certo lavoro: bisognava cercare informazioni, mettere insieme qualche idea, trovare esempi e riuscire a costruire un ragionamento abbastanza solido da non crollare alla prima domanda. Quel lavoro costituiva, almeno in parte, un limite naturale alla quantità di cose che una persona poteva improvvisare.
Oggi quel limite si è abbassato moltissimo. Chi conosce superficialmente il marketing o il turismo, per esempio, può prendere una propria intuizione, passarla a un’intelligenza artificiale e chiederle di trasformarla in un’analisi, sviluppare gli argomenti, aggiungere esempi e renderla convincente. In pochi minuti può ottenere un testo che sembra scritto da qualcuno che conosce perfettamente la materia, anche se all’origine non c’era una conoscenza particolarmente profonda e nessuno ha verificato davvero ciò che è stato scritto. Il paradosso è che, qualche volta, la persona finisce persino per convincersi della bontà della propria idea proprio perché la vede restituita dall’AI in una forma molto più autorevole di quella con cui l’aveva pensata.
È qui che la somiglianza tra macchina e persona comincia a divergere: una macchina che inventa una risposta sbagliata non ha nulla da difendere, perché non ci sono relazioni costruite intorno all’errore, reputazioni professionali da proteggere o entrate che dipendono da quella risposta, e se arriva una fonte affidabile che dimostra che la risposta è sbagliata basta aggiornarla, senza che questo costi nulla sul piano emotivo.
Una persona che ha costruito la propria credibilità proprio sulla capacità di avere sempre una risposta si trova invece in una situazione molto diversa, perché nel frattempo intorno alle sue affermazioni possono essersi costruiti reputazione, seguito, incarichi e redditi. A quel punto ammettere di essersi sbagliata non significa semplicemente correggere un’informazione: significa mettere in discussione una parte del sistema che le ha permesso di acquisire autorevolezza. L’errore può diventare molto più resistente alla correzione, fino a negarne l’evidenza anche palese per non far crollare il castello di illusioni creato intorno.
Nel turismo e nella comunicazione territoriale questo meccanismo si vede abbastanza bene. Si può raccontare un successo mentre alcuni degli indicatori più importanti raccontano una storia diversa, presentare un evento che ha funzionato bene come se fosse la prova dell’esistenza di una strategia, oppure celebrare un aumento delle presenze senza chiedersi quanto sia durata la permanenza, quanto abbiano speso i visitatori o quale valore economico sia rimasto realmente sul territorio. Una volta costruito un racconto sufficientemente convincente, quel racconto può continuare a circolare anche quando i dati disponibili suggeriscono di guardare le cose in modo diverso.
Ed è probabilmente questa la differenza più importante tra una macchina che inventa con statistica e una persona che inventa con sicurezza: la macchina produce solo un errore, mentre una persona può costruire intorno a quell’errore una carriera, una reputazione e un consenso.
Per questo, quando ascoltiamo qualcuno parlare con grande sicurezza di un argomento, forse dovremmo preoccuparci un po’ meno di quanto sia convincente il suo modo di raccontarlo e un po’ di più di capire su cosa poggiano realmente le sue affermazioni.
Il problema più grande, però, non è che l’intelligenza artificiale possa inventare qualcosa che non sa: è che sta rendendo molto più facile, per chiunque, costruire una versione credibile di qualcosa che non conosce abbastanza, una versione che può diventare più forte della realtà proprio perché è più facile da capire, da raccontare e da condividere. In questo scenario la macchina resta uno strumento nelle mani di chi ha già imparato che una spiegazione convincente funziona spesso meglio di una spiegazione vera, ed è forse a questo che dovremmo prestare più attenzione: non tanto al rischio, già reale, di non riuscire più a distinguere ciò che è vero da ciò che è inventato, quanto al fatto che la capacità di raccontare una cosa sta crescendo molto più in fretta della capacità di conoscerla davvero.
La realtà continua a esistere, semplicemente diventa sempre più difficile trovarla sotto lo strato di racconti plausibili che la ricoprono, e chi non ha gli strumenti per distinguerli rischia di restare vittima proprio di quella plausibilità.
