La curiosità è l'unica cosa che l'intelligenza artificiale non sa fingere

Il 13 settembre sarò a Fumane, ad Apprendifestival, a parlare di anatomia dell'AI dentro una tavola rotonda che parla di curiosità.

Leggo l'elenco dei relatori e riconosco un lavoro che non capita spesso: un ex direttore dell'Istituto UNESCO per l'Apprendimento Permanente, il suo attuale Chief Programme Coordinator, due analisti della space economy della SDA Bocconi, una grafologa, uno storico della Resistenza, una docente universitaria di didattica. E io, che parlo di modelli linguistici.

Non è un elenco messo insieme per riempire una tavola rotonda. È la tesi del festival scritta in forma di scaletta: "Domande che aprono mondi. La curiosità come motore dell'apprendimento per persone e città."

Sono tutti mestieri in cui qualcuno, a un certo punto, ha guardato una cosa che tutti guardavano e ha chiesto: ma perché? Perché lo spazio dovrebbe riguardare solo gli astronauti. Perché la scrittura a mano dovrebbe essere solo una questione di estetica. Perché una macchina che compone frasi corrette dovrebbe essere considerata intelligente.

Ecco: quest'ultima è la mia. Ed è un privilegio poterla fare in una sala dove le altre domande sono di quel livello lì.

L'unica macchina al mondo che non ha mai chiesto niente

Partiamo da un fatto che dovrebbe essere ovvio e non lo è. Nessun modello di intelligenza artificiale, in tutta la storia dei modelli di intelligenza artificiale, ha mai fatto una domanda spontaneamente. Mai uno che si sia svegliato di notte con un dubbio. Mai uno che abbia interrotto una conversazione per dire aspetta, questa cosa non mi torna. Non perché siano educati, perché non hanno nulla che li spinga.

La curiosità, prima di essere una virtù, è una mancanza. È la capacità di sentire un buco. Sai di non sapere, la cosa ti dà fastidio, e vai a vedere. Tutto l'apprendimento umano, quello dei bambini, quello degli adulti, quello che a Fumane chiamano lifelong learning, nasce da quella scomodità.

Un modello linguistico non ha buchi. Ha una distribuzione di probabilità, e ha sempre qualcosa da dire.

È per questo che le allucinazioni non sono un bug marginale destinato a sparire con la prossima release, sono la firma di un sistema che non distingue lo so da è plausibile. Dove una persona curiosa si fermerebbe a controllare, il modello chiude la frase. La cosa più umana che potrebbe fare, ammettere il vuoto e andarlo a colmare, è precisamente la cosa che la sua architettura non prevede.

Detta in modo più brutale: l'allucinazione è l'assenza di curiosità resa visibile.

Anatomia dell'AI: il modello, il lavoro, il mercato

Il mio intervento smonta la macchina in tre pezzi. Non per fare didattica, ma perché senza le lenti giuste ogni decisione sull'AI è una scommessa travestita da strategia.

Il modello. Non serve saper costruire un motore per guidare, ma serve sapere che c'è un motore. Cosa sono davvero questi sistemi, cosa distingue un processo probabilistico da uno deterministico, cosa significa dare a un modello una base di conoscenza e perché cambia tutto. Un quadro rapido, ma non banalizzato: la semplificazione onesta è quella che ti lascia in grado di fare la domanda successiva.

Il lavoro. Le aziende comprano l'AI a moduli: uno per le mail, uno per il centralino, uno per il sito. Automatizzano i gesti di un sistema che sta per cambiare forma. È il robot che preme il pulsante: hai messo un braccio meccanico davanti a un bottone che andava tolto. L'AI non è automazione, è intelligenza applicata: si parte dai dati, si costruisce una base di conoscenza, e solo alla fine si decide che forma dare all'output.

Il mercato. Per vent'anni abbiamo misurato tutto. Ora il tracciamento si sgretola e le risposte arrivano mediate da un modello che nessuno di noi controlla. Torniamo, paradossalmente, al marketing degli anni Settanta: contano il posizionamento, la riconoscibilità, la reputazione, molto più dell'attribuzione. Con una differenza non da poco: allora eri interpretato da un pubblico, oggi sei interpretato da una macchina che riassume.

La media contro la deviazione

Un modello è addestrato su ciò che è già stato detto. È un archivio splendido del passato e uno strumento straordinario per produrre la cosa più probabile. Tende alla media per costruzione. La curiosità fa l'operazione opposta: punta il dito dove non è stato ancora detto niente.

La conseguenza pratica è meno filosofica di quanto sembri. Se tutti chiedono alla stessa macchina, tutti ricevono la stessa risposta ragionevole. In un mercato in cui la mediocrità competente diventa gratuita e istantanea, l'unico asset che resta è la deviazione: la cosa che sai tu, il caso che hai visto solo tu, la domanda che non stava facendo nessuno.

Chi in questi mesi sta usando l'AI per assomigliare più in fretta a tutti gli altri sta ottimizzando la propria scomparsa.

Una curiosità aziendale ha bisogno di memoria

C'è un corollario che dico sempre ai miei clienti e che vale anche fuori dalle imprese. Non puoi accorgerti di un'anomalia se non hai una norma. Non puoi farti una buona domanda su qualcosa che non ricordi. Un'organizzazione con i dati sparsi tra Drive, mail e teste delle persone non ha un problema di modello: ha un problema di catasto. E soprattutto non ha memoria quindi si rifà ogni anno le stesse domande, e le paga ogni volta come se fossero nuove. L'AI in azienda non è un organo in più. È il sistema nervoso: serve a far comunicare cose che già ci sono. Se non ci sono, non c'è niente da collegare.

Il dettaglio da Tenente Colombo

Piccola nota che mi ha fatto sorridere. La sera del 12 il festival apre con una Mystery Dinner, e l'invito dice: "Quando entri fai attenzione a ogni dettaglio, potrebbe esserti utile."

È la migliore definizione di curiosità che ho letto quest'anno, ed è su una locandina di una cena.

Perché lì c'è l'ultima differenza, quella che tengo per la fine anche sul palco. Un modello presta attenzione a tutto e non nota niente: elabora ogni parola con la stessa diligenza indifferente. Notare è un'altra cosa. Notare significa scegliere che una cosa conta più delle altre, senza sapere ancora perché. È un atto di scommessa, non di calcolo. Ed è per ora, e forse per un bel po', un mestiere interamente nostro.

Poi alle 21:30 c'è il fluo party, perché imparare stanca e ballare è una forma di pensiero che abbiamo deciso di non chiamare pensiero.

Ci vediamo a Fumane

Apprendifestival — L'UNESCO a Fumane, Via U. Ugolini 1, Fumane (VR).

• Sabato 12 settembre, ore 19:30: Mystery Dinner (solo su prenotazione, 27 €). A seguire, ore 21:30, fluo party con Dj Trouble Maker.
• Domenica 13 settembre, ore 10:00–13:00: tavola rotonda "Domande che aprono mondi", coordinata da Roberta Piazza. Il mio intervento — Anatomia dell'AI. Il modello, il lavoro, il mercato — è lì dentro.
• Dalle 13:00 stand gastronomici, dalle 13:30 i laboratori: si entra in un planetario, si prova la kickboxing, si imparano arti di massaggio, si interpreta la grafia, si riconoscono piante ed erbe del territorio. Senza prenotazione.

Apprendifestival è un evento di ApprendiHub ETS.

Se venite, fatemi una domanda difficile. È l'unica cosa che una macchina non può ancora portarmi.