L’attenzione secondo l’IA: un Procuste che tortura i viandanti
Alla base della tecnologia dell’ultimo prodotto dell’Intelligenza Artificiale, i Large Language Model (LLMs), c’è un sistema dal nome paradossale: il meccanismo di attenzione. Spiegato in un saggio dal titolo Attention is all you need, il meccanismo di attenzione è il cuore dell’architettura Transformer, la struttura a fondamento degli LLM, la cui funzione è quella di consentire a una rete neurale (così chiamata per analogia con il cervello umano) di tenere traccia di schemi e connessioni all’interno dei dati di input, anche se questi sono situati in modo molto distante tra di loro.
Gli aspetti chiave del funzionamento del meccanismo di attenzione includono diversi elementi. In primo luogo il tipo di connessione: mentre gli esseri umani comprendono la grammatica e le relazioni tra le parole a partire dall’uso, l’IA apprende associazioni statistiche. La rete dell’attenzione aiuta a determinare quali parole sono correlate tra loro, ad esempio identificando un aggettivo che descrive un sostantivo specifico in una frase complessa. Successivamente, nel corso di miliardi di sessioni di addestramento, il meccanismo dell’attenzione seleziona la struttura del linguaggio in valori numerici chiamati “pesi”. Ciò consente al modello di concentrare l’attenzione su particolari caratteristiche dei dati che, statisticamente, sono più rilevanti per il compito da svolgere. Questo obiettivo viene raggiunto grazie al processo di tokenizzazione, cioè di riduzione in piccoli pezzi delle parole: questi pezzi vengono inseriti in delle matrici che hanno il compito, attraverso un’operazione algebrica, di trasformare prima le parole in numeri e poi i numeri nuovamente in parole. Per questo il sistema si chiama Transformer: la macchina ingerisce dati in una operazione di lettura chiamata encoding, e ne sputa fuori di altri attraverso un’operazione di scrittura chiamata decoding. La cosa importante da capire è che in questo meccanismo le parole vengono ridotte in pezzi (cioè in token) che, per essere processate, devono utilizzare matrici aventi gli stessi parametri: di conseguenza le frasi, per essere trasformate in altre frasi, devono avere tutte la stessa lunghezza. Così, se il testo è più piccolo della lunghezza massima, si riempiono i buchi con token specifici; se il testo è più grande, esso viene scomposto più volte in modo da entrare nelle matrici. Si potrebbe dire che il Transformer si comporta come il gigante Procuste che, sulla via da Megara ad Atene, prendeva gli uomini e li stendeva su un letto: se quelli erano troppo corti li stirava, se invece sporgevano perché troppo lunghi, gli amputava i piedi o le gambe finché i malcapitati entrassero nella dimensione del suo letto.
Questa immagine ci permette di capire un fenomeno che ormai stiamo cominciando ad apprendere: quello per cui i chatbot, la parte visibile di quel processo che si manifesta in una sorta di dialogo con l’utente, oltreché a distorcere e a inventare, hanno la continua tendenza ad aggiustarsi rispetto agli input forniti. Questo genera un problema enorme per l’educazione, a causa soprattutto dell’uso che ne fanno gli studenti.
L’attenzione secondo Simone Weil: un Arjuna che coglie nel segno
«L’attenzione deve essere l’unico oggetto dell’educazione». Queste parole, semplici quanto definitive, riassumono la concezione di Simone Weil nel campo dell’educazione. Ma l’attenzione della pensatrice francese non ha nulla a che vedere con quella delle macchine del linguaggio. Anzi, ne è l’opposto. Se quella seleziona, concentra e riduce, l’attenzione di Weil invece amplifica, diffonde e si espande ad altre dimensioni dello spirito. Se quella dell’intelligenza artificiale scompone, questa della Weil ricompone; se la prima guarda al passato, la seconda guarda al futuro.
Ho definito il meccanismo di attenzione un nome paradossale: di fatto, i sistemi di AI che lo incorporano, più che concentratori sembrano essere dei distrattori dell’attenzione. L’importanza riservata all’attenzione è così grande che la pensatrice francese le dedicherà un saggio dal titolo Riflessioni sul buon uso degli studi scolastici in vista dell’amore di Dio. Poche pagine per affermare alcuni concetti fondamentali. Il primo è che tutte le volte che un essere umano svolge un compito di attenzione con il solo desiderio di cogliere la verità, acquista qualcosa di più grande, anche se il suo sforzo non raggiunge nulla.
Per chiarire ciò bisogna sgombrare il campo da alcuni equivoci e liberarsi da altrettanti pregiudizi. «La volontà non trova alcun posto nello studio. L’intelligenza è diretta solo dal desiderio. Ma perché vi sia desiderio occorre che ci sia piacere e gioia. L’intelligenza aumenta e porta frutti solo nella gioia». Partendo da queste parole, bisogna considerare il fatto che l’attenzione è prima di tutto uno sforzo negativo, ovvero che essa non comporta fatica e che anzi, nel momento in cui si manifesta la stanchezza, l’attenzione evapora.
Nonostante ciò, aggiunge la Weil, esiste qualcosa nella nostra anima che ripugna in modo violento all’attenzione, più che la carne allo sforzo fisico. L’opposto dell’attenzione è la fantasticheria, il mondo di sogno, la promessa di ogni buon incantatore. Per questo motivo è necessaria una disciplina dell’attenzione, un vero e proprio allenamento (dressage).
L’attenzione, come sa bene la sapienza orientale di cui la Weil era studiosa appassionata, consiste nel sospendere il pensiero, renderlo vuoto e penetrabile, passivo e non giudicante. L’attenzione in questo senso non si schiera, non prende partito, non seleziona, ed è grazie a ciò che essa è il migliore strumento per conoscere la realtà così com’è. Ma per conoscere la realtà così com’è bisogna ispirarsi ad Arjuna, l’arciere saggio ed umile guidato da Krishna che, nella Bhagavad Gita, è in grado di colpire il bersaglio con gli occhi bendati grazie alla sua concentrazione estrema, frutto della purezza e della nobiltà del suo animo.
La realtà infatti non è mai univoca ma sempre contraddittoria e l’attenzione è la sola dinamica del nostro spirito in grado di coglierla. «Essere attenti, elevarsi nell’ordine della conoscenza, significa allenare la propria intelligenza a percepire gli opposti e a passare dall’uno all’altro come si traccia una linea tra punti su un foglio di carta», viene scritto nell’introduzione a L’Attention Pure, raccolta pubblicata recentemente dei testi più importanti della Weil sull’attenzione. Per questo motivo, cioè per la sua capacità di cogliere i contrari, l’attenzione è la porta dell’incondizionato e dell’assoluto. Grazie ad essa si arriva alla conoscenza che, prima di offrire soluzioni, consiste nella capacità di porre domande.
«L’attenzione è l’unico scopo dell’insegnamento, tutto il resto non conta». Nel campo dell’educazione, essa si realizza senza l’obiettivo immediato dell’ottenimento di un voto o di una ricompensa ma con lo scopo di nutrire l’unico bene dell’anima, la verità. Per fare ciò si deve allenare la capacità di cogliere la contraddizione del gesto determinato. Si tratta, come si può ben capire, di un vero e proprio tirocinio, l’unico davvero utile nella scuola.
Uno degli aspetti di questo tirocinio è la coscienza umile dei propri errori i quali, prima di essere corretti per indicare la soluzione o la risposta giusta, devono essere riconosciuti e integrati nel perimetro della propria coscienza. Cosa che, come sa chi è impegnato quotidianamente nel campo dell’educazione, sta progressivamente venendo meno. Oggi si è sempre più suscettibili alle critiche, sempre più concentrati sul proprio io; non come narcisi (come si ripete spesso) ma come individui incatenati nella caverna platonica, il cellulare al posto delle ombre, una riluttanza che sembra ormai rifiuto lucido ad intraprendere il cammino della liberazione. Riepilogando: essere coscienti di sbagliare come riconoscimento della contraddizione del determinato, presupposto a sua volta del riconoscimento della realtà e, quindi, della propria salvezza: questo è il tesoro più grande dell’insegnamento per Simone Weil. Cosa che non potrà mai fare, per sua natura intrinseca, l’attenzione a fondamento dell’intelligenza artificiale. Non abbiamo bisogno di Procuste, ma di Arjuna.
Riferimenti Bibliografici
- AA. VV. 2017 (rivisto nel 2023). Attention is all you need in Proceedings of the 31° International Conference on Neural Information Processing Systems (NeurIPS 2017). Long Beach, USA. Disponibile all’indirizzo https://arxiv.org/pdf/1706.03762v7
- Ferrara, Alfio. 2025. Le macchine del linguaggio. Torino: Einaudi.
- Weil, Simone. 1966. Réflexions sur le bon usage des études scolaires en vue de l’Amour de Dieu in Attente de Dieu. Paris: Éditions Fayard, pp.85-97.
- Weil, Simone. 2025. L’attention pure. Marseille: Éditions Payot & Rivages (Kindle Edition)
Foto: Charles Platiau / Reuters
