Resa cognitiva

Otto ha l'Alzheimer. Un giorno sente parlare di una mostra al Museum of Modern Art e decide di andarci, ma non ricorda dove si trovi il museo. Allora apre il taccuino che porta sempre con sé, dove annota tutto quello che gli serve, legge che il museo è sulla 53esima strada, e ci va. Una sua amica, Inga, sente parlare della stessa mostra, ricorda da sola che il museo è sulla 53esima, e ci va anche lei.

Otto e Inga non esistono. Li hanno immaginati nel 1998 due filosofi, Andy Clark e David Chalmers, per sostenere un'idea che allora sembrava una provocazione: il taccuino di Otto fa parte della sua mente esattamente come la memoria di Inga fa parte della sua. Perché questo valga, però, il taccuino deve rispettare quattro condizioni. Otto deve averlo sempre con sé, deve poterlo consultare senza fatica e deve fidarsi di quello che ci legge. La quarta è quella che gli stessi autori consideravano la più discutibile: l'informazione nel taccuino "has been consciously endorsed at some point in the past, and indeed is there as a consequence of this endorsement", ovvero è stata approvata consapevolmente in passato, ed è lì proprio perché è stata approvata. Otto può fidarsi delle sue note senza ricontrollarle perché, in un certo senso, le ha già controllate scrivendole.

Il taccuino di Otto è la versione estrema di un'abitudine che abbiamo tutti, quella di segnarsi un appuntamento o salvare un numero in rubrica per alleggerire il lavoro che si fa dentro la testa (in psicologia si parla di cognitive offloading). È un'abitudine antica quanto la scrittura, e ogni nuovo strumento l'ha consolidata. Nel 2011 tre psicologi, Betsy Sparrow, Jenny Liu e Daniel Wegner, hanno mostrato su Science che con internet succede qualcosa di simile: quando sappiamo di poter ritrovare un'informazione, la ricordiamo meno, ma ricordiamo meglio dove andarla a cercare.

Tutte queste deleghe, dalla tavoletta di cera al motore di ricerca, hanno però una cosa in comune: affidano a uno strumento esterno la conservazione di qualcosa che una mente ha già elaborato. Il taccuino conserva l'indirizzo che Otto ha scritto, l'archivio conserva il documento che qualcuno ha redatto, il motore di ricerca ritrova pagine che qualcuno ha pensato e scritto. Perdiamo un po' di memoria, ma il ragionamento che c'è dentro l'ha fatto una persona.

Una nota che nessuno ha approvato

Con i modelli linguistici questa cosa smette di essere vera. Il taccuino conservava quello che Otto aveva già pensato, mentre uno strumento come ChatGPT produce il ragionamento nel momento in cui glielo chiediamo. Gli chiediamo di riassumere un documento o di scrivere un testo che non abbiamo voglia di scrivere, e quello che ci restituisce è un'elaborazione nuova, che nessuno ha mai pensato prima e che nessuno ha approvato. Ed è proprio la quarta condizione di Otto, quella più discutibile, a saltare per prima: continuiamo a fidarci di quello che leggiamo, come Otto si fida delle sue note, ma quello che leggiamo non è mai passato dalla nostra approvazione.

Andy Clark, lo stesso filosofo di Otto, è tornato sulla questione nel 2025, e la paura che descrive è che queste tecnologie, invece di estendere la mente, la sostituiscano: le definisce "mind-replacing technologies". Lui resta ottimista, e sostiene che la cosa da imparare sia "both trust and question", fidarsi e insieme mettere in dubbio quello che una macchina ci propone, come facciamo con le idee che ci vengono in mente all'improvviso. Mettere in dubbio, però, costa fatica, e questi strumenti si usano proprio per risparmiarla.

Per Steven Shaw e Gideon Nave, due ricercatori della Wharton School, quando il dubbio non arriva c'è una resa, una cognitive surrender. La loro distinzione mi sembra la più utile per capire che cosa ci sia di nuovo. Quando usiamo una calcolatrice deleghiamo un calcolo, ma il ragionamento resta nostro: sappiamo che cosa stiamo chiedendo e perché. Nella resa adottiamo l'elaborazione della macchina al posto della nostra, con un controllo minimo, e la differenza si vede solo quando la macchina sbaglia. Nei loro esperimenti, con una chat istruita di nascosto a dare risposte sbagliate, chi la consultava le seguiva quattro volte su cinque.

La zona di deformazione

Credo che i processi che gli algoritmi rendono possibili siano ormai necessari alle organizzazioni, perché permettono di leggere e ordinare quantità di informazioni che nessun gruppo di persone potrebbe gestire a mano. Proprio per questo la resa cognitiva smetterà presto di essere un esperimento di laboratorio e diventerà un problema del lavoro di tutti i giorni. Quando l'elaborazione la fa la macchina, il lavoro delle persone cambia natura. Un gruppo di ricercatori di Microsoft e della Carnegie Mellon ha chiesto a 319 lavoratori della conoscenza come usano l'intelligenza artificiale generativa, e ha trovato che il pensiero critico si sposta "toward information verification, response integration, and task stewardship", ovvero verso la verifica delle informazioni, l'integrazione delle risposte e la supervisione del compito, e che più ci si fida dello strumento, meno lo si esercita.

Se il pensiero critico si sposta sulla verifica, il controllo richiede le competenze di chi quel lavoro lo sa fare, e sono proprio quelle che la delega smette di allenare. In medicina se ne vede già un segnale: in uno studio pubblicato nel 2025 su The Lancet Gastroenterology & Hepatology, i medici di quattro centri polacchi, dopo alcuni mesi di colonscopie fatte con l'aiuto dell'intelligenza artificiale, trovavano meno lesioni di prima quando tornavano a lavorare senza, dal 28,4 al 22,4 per cento. Erano medici esperti, che quella competenza l'avevano costruita negli anni.

Nella pratica, poi, il controllo spesso manca. In un sondaggio di KPMG e dell'Università di Melbourne su 48.000 lavoratori in 47 paesi, due persone su tre dicono di usare i risultati dell'intelligenza artificiale senza valutarne l'accuratezza, e più della metà dice di nascondere di averla usata, quindi chi riceve quel lavoro non sa nemmeno che andrebbe controllato. Quando poi qualcosa va storto, la colpa non ricade sullo strumento, che nessuno ha visto, ma sulla persona che ha firmato. La ricercatrice Madeleine Clare Elish ha descritto questo meccanismo con l'immagine della zona di deformazione di un'auto, il cofano che si accartoccia nell'urto per proteggere l'abitacolo: nei sistemi automatici la parte che si accartoccia è l'essere umano più vicino al risultato, e quello che resta intatto è la macchina.

Un taccuino su cui non abbiamo mai scritto

C'è poi un piano che con l'organizzazione del lavoro c'entra poco, e che mi preoccupa di più. Il re Thamus, nel Fedro di Platone, temeva che la scrittura ci avrebbe resi smemorati. Il taccuino di Otto mostra che il rischio di oggi riguarda un'altra cosa, cioè il rapporto con le nostre idee. Quello che pensiamo di sapere è fatto, in buona parte, di cose che a un certo punto abbiamo deciso di ritenere vere, ed è questo che rende nostre le note di Otto. Se smettiamo di passare da quella decisione, quello che crediamo diventa una somma di elaborazioni altrui che abbiamo semplicemente accettato.

I primi segnali sono già misurabili. In uno studio del MIT guidato da Nataliya Kosmyna, chi aveva scritto un saggio con l'aiuto di ChatGPT faticava a citare correttamente il proprio testo e lo sentiva meno suo di chi l'aveva scritto da solo: aveva firmato un ragionamento che non riconosceva. Il filosofo Bernard Stiegler scriveva che quando un sapere passa dalle persone alle macchine si perde qualcosa di più di una competenza, "a loss of savor and of existence", ovvero una perdita di gusto e di esistenza, e pensava al saper fare degli artigiani davanti all'industria. Con i modelli linguistici la stessa perdita tocca l'elaborazione del pensiero.

Per Clark la soluzione è imparare a fidarsi e insieme a dubitare, e credo che abbia ragione. Resta da capire dove si impari, e una risposta viene da una scuola. A quasi mille studenti di liceo è stato dato un tutor basato su GPT-4: chi riceveva le soluzioni andava meglio durante gli esercizi, ma una volta tolto lo strumento andava peggio di chi non l'aveva mai avuto, mentre chi riceveva solo suggerimenti teneva il livello anche senza. Chi entra adesso a scuola o al lavoro avrà questi strumenti dal primo giorno, e imparerà a dubitare dei ragionamenti della macchina solo se qualcuno gliene lascia abbastanza da fare da solo.

Questo articolo è AIL 4. L'AI Influence Level è una scala da 0 a 5 che dichiara quanta intelligenza artificiale c'è dentro un contenuto. Il 4 corrisponde a un'IA che sviluppa un'idea abbozzata.

In pratica: la tesi e il taglio sono miei. Arturo, l'algoritmo che scrive con me dal 2024, ha cercato e verificato le fonti e ha steso il testo; io ne ho bocciate sei versioni e ho corretto quella buona a colpi di commenti. L'idea è mia, l'argomentazione è sua.