"L'AI non pensa e non capisce. Paradossi, illusioni e verità sull’intelligenza artificiale", il terzo appuntamento con New Line Academy.

Ancora una volta una serata all’insegna della “formazione” accompagnata da un bel momento di convivialità nel nostro showroom.  

Nel terzo appuntamento con New Line Academy abbiamo affrontato uno dei temi più discussi del momento: l’intelligenza artificiale.

Un incontro pensato non solo per capire cosa può fare oggi l’AI, ma soprattutto per imparare a usarla in modo consapevole, senza farsi ingannare dall’idea che sia “intelligente” come un essere umano.

A guidarci in questo viaggio è stato Francesco Marino, giornalista, divulgatore ed esperto di innovazione digitale con oltre 20 anni di esperienza nel mondo del digitale. È direttore responsabile di Digitalic, magazine di riferimento per la trasformazione tecnologica nelle imprese italiane.  

L’AI sembra capire. Ma non è così.

Uno dei concetti più interessanti emersi durante l’incontro è quello della cosiddetta “Stanza Cinese”, un esperimento mentale proposto dal filosofo John Searle nel 1980.

L’esperimento funziona così: immaginate una persona chiusa in una stanza. Dalla fessura di una porta riceve foglietti con frasi scritte in cinese. La persona non conosce il cinese, non ne comprende una singola parola. Però possiede un manuale enorme, una sorta di libro delle regole, che le dice: “quando ricevi questo simbolo, rispondi con quest’altro simbolo.” La persona esegue le istruzioni alla lettera, e dalla stanza escono risposte perfette in cinese. Chi sta fuori dalla stanza è convinto di parlare con qualcuno che capisce il cinese. Ma dentro la stanza non c’è nessuna comprensione. C’è solo manipolazione di simboli secondo regole precise.  L’esperimento mostra come seguendo istruzioni precise, una persona può rispondere perfettamente in cinese anche senza conoscere e capire la lingua. Secondo Marino, è più o meno quello che fanno sistemi come ChatGPT o Gemini: producono testi molto convincenti, ma senza una reale comprensione del significato.

Perché questo conta per chi lavora? Perché l’illusione della comprensione genera fiducia cieca. Se crediamo che l’AI “capisca”, smettiamo di verificare, e dimentichiamo che seppure l’Ai sembri davvero brillante in realtà può commettere errori clamorosi. E il nostro errore sul lavoro è proprio quelli di pensare che l’AI “ragioni”, e finiamo per delegarle decisioni che dovremmo prendere noi.

Quando l’AI “inventa”

Uno dei rischi più grandi dell’intelligenza artificiale sono le cosiddette “allucinazioni”: informazioni false o inventate presentate però con assoluta sicurezza. Le allucinazioni si verificano quando un’AI generativa fornisce informazioni non corrette o inesistenti nel mondo reale, spesso con un tono talmente convincente da rendere l’errore invisibile a un occhio non allenato.

Durante l’incontro sono stati raccontati casi reali sorprendenti: avvocati che hanno utilizzato sentenze inesistenti generate da ChatGPT, chatbot aziendali che hanno dato informazioni sbagliate ai clienti e persino errori pubblici costati milioni a grandi aziende tecnologiche.

La lezione è chiara: l’AI è uno strumento potentissimo, ma non infallibile. Per questo è fondamentale verificare sempre dati, fonti e informazioni.

L’AI è un supporto, non un sostituto

Uno dei paragoni più efficaci utilizzati durante l’Academy è stato quello con Dr. House.

Nella serie, Dr. House lavora con un’équipe di medici che propone ipotesi e soluzioni, ma la decisione finale spetta sempre a lui. Con l’AI dovrebbe funzionare allo stesso modo: il sistema suggerisce, organizza informazioni, aiuta a generare idee… ma il giudizio finale deve essere nostro.

L’AI non sostituisce il pensiero: lo amplifica.

Se facciamo domande vaghe, otterremo risposte vaghe. Se invece impariamo a fornire istruzioni chiare e precise, l’AI può diventare un alleato straordinario per lavorare meglio, più velocemente e con maggiore creatività.

Il valore delle domande giuste

Forse il concetto più importante emerso durante l’incontro è questo: l’intelligenza artificiale non è un sostituto dell’intelligenza umana. È un amplificatore cognitivo.

Se le forniamo input vaghi, superficiali o confusi, otterremo risultati mediocri. Se invece sappiamo fare domande chiare, strutturate e precise, l’AI può diventare uno strumento straordinario per accelerare idee, analisi e processi creativi.

In fondo, è questo il grande paradosso dell’AI: una tecnologia che non “capisce” davvero ci obbliga a essere più chiari, più rigorosi e più consapevoli nel modo in cui pensiamo e comunichiamo.

Ed è probabilmente questa la vera competenza del futuro. Non limitarsi a usare l’AI, ma imparare a dialogare con essa in modo intelligente, mantenendo sempre senso critico, responsabilità e capacità di giudizio.

Perché la domanda più importante non è se l’AI diventerà più intelligente.

La vera domanda è se noi sapremo usarla nel modo giusto.

Dove seguire Francesco Marino

Per approfondire questi temi, Francesco Marino racconta innovazione, AI e trasformazione digitale su Digitalic. È inoltre autore di DigitMondo Podcast, dedicato ai trend e agli impatti concreti dell’intelligenza artificiale sul lavoro, sulle aziende e sulla società.

La serata è stata allietata dal sound di Contrada Errante  

e dalle delizie di 1908 Catering

Curioso di scoprire gli altri argomenti trattati durante le ultime serate di New Line Academy?

"Costruire pensando al futuro" a cura di Marco Gaia, meteorologo di Meteo Svizzera

"Ridefinire gli spazi urbani" con Yuri Catania

Continua a seguirci, presto la data e il tema della prossima serata.