Catherine Malabou: «L’AI è un’estensione logica della storia dell’intelligenza»

Apprendimento automatico, apprendimento profondo, chip cerebrale. L’intelligenza artificiale ha compiuto notevoli progressi negli ultimi anni, ma questa rapida evoluzione solleva altrettanti interrogativi etici ed esistenziali, oltre alle preoccupazioni per le sue implicazioni sociali.

Avremo ancora un lavoro domani? La nostra intelligenza sta diventando inutile e obsoleta? Le macchine prenderanno il nostro posto? Domande del genere, di solito, sottintendono già delle risposte. Ma non possiamo essere così ingenui da ascoltarle, perché come osservava sarcastico il sociologo Pierre Bourdieu, nelle sue Meditazioni pascaliane (Feltrinelli, 1997), «quel che accade oggi con l’Intelligenza Artificiale non è altro che la versione contemporanea di un vecchissimo problema politico. In quanto modi di iscrizione del sociale nei corpi, le disposizioni cerebrali sono evidentemente modellizzabili e danno agevolmente luogo alla loro cattura a opera del potere statale, economico e cibernetico».

I problemi posti oggi dall’Intelligenza Artificiale precedono l’Intelligenza Artificiale e in qualche modo la eccedono proprio perché nascondiamo il problema nel momento stesso in cui il problema ci si presenta con tutta la sua urgenza.

Di questo e molto altro abbiamo parlato con Catherine Malabou, insegnante di filosofia al Centre for Research in Modern European Philosophy della Kingston University di Londra e all’Università della California a Irvine, dove ricopre la cattedra di Letteratura Comparata e Lingue e Studi Europei. Centrale nei suoi studi è il concetto di “plasticità”, che deriva in parte dall’opera di Hegel e dalle neuroscienze.

Pensatrice tra le più influenti dei nostri anni, a lei si devono ricerche originali e stimolanti in un territorio che spazia dalle neuroscienze alla filosofia della politica, dalla psicoanalisi al femminismo. Sul tema dell’intelligenza e dell’Intelligenza Artificiale ha scritto uno dei libri più importanti: Metamorfosi dell’intelligenza. Che fare del loro Blue Brain? (Meltemi, 2021).

L’Intelligenza Artificiale è oggi sulla bocca di tutti. Il dibattito sembra concentrarsi soprattutto sul tema dell’artificiale, lasciando in sospeso - o sottinteso - quello dell’intelligenza. Lei, al contrario, nei suoi lavori ha condotto una sorta di genealogia dell’intelligenza. Che cosa manca al dibattito, oggi? La prospettiva storica (si parla di storia sociale dell’AI, forse utile, forse no)? Quella critica? Oppure l’intelligenza è una sorta di vicolo senza uscita che non possiamo, non solo non riusciamo a definire?

No, non credo che sia impossibile definire l’intelligenza. Anzi, se posso dirlo, la sua definizione è relativamente semplice. Più semplice di quanto sembri, a partire dal lavoro pionieristico degli psicologi del XIX secolo e dal contributo fondamentale di John Dewey. L’intelligenza consiste nel risolvere problemi mettendo insieme sistematicamente elementi apparentemente eterogenei. Questo può essere fatto per deduzione, per tentativi ed errori, per adattamento graduale, ecc. Non vale solo per gli esseri umani. Anche gli animali e le piante risolvono problemi.

L’Intelligenza Artificiale non cambia in alcun modo la definizione di intelligenza come risoluzione di problemi. Le reti neurali e il deep learning sono un buon esempio in tal senso. La novità di oggi è che è oramai la macchina a inventare le proprie tattiche di risoluzione dei problemi. Naturalmente, lo sviluppo dell’Intelligenza Artificiale comporta trasformazioni che sono diventate difficili da misurare, “singolarità”, “buchi”, per parlare come Ray Kurzweil. Ma l’intelligenza artificiale è un’estensione logica della storia dell’intelligenza.

È vero, però, che manca la prospettiva critica necessaria per pensare a queste trasformazioni.

Tutti, a prescindere dal loro orientamento politico, sono concentrati su un’unica domanda: la macchina sostituirà l’uomo? Non dico che la questione non si ponga, naturalmente, ma mi sembra che dovremmo riflettere sulla nozione stessa di sostituzione, sulla nozione di simulazione, piuttosto che sull’ipotesi fantastica di un mondo controllato da sistemi artificiali.

Jean Baudrillard ha distinto tre fasi essenziali nella storia dell’imitazione: il rapporto modello/copia, in cui il modello manteneva la priorità ontologica; il rapporto significante/significato, in cui il significato era nella posizione di referente; e infine, l’era della scomparsa dei significati, che ha lasciato proliferare i significanti senza un modello. Quest’ultimo periodo è ovviamente contemporaneo all’emergere delle tecnologie moderne ed è stato radicalizzato dall’Intelligenza Artificiale.

Un’immagine generata da un sistema di AI non fa più riferimento né a un modello né a un significato. Tanto che il sistema domanda/risposta sta per sostituire la logica stessa del significato. Questo è ciò che resta da pensare: la simulazione che è diventata il suo stesso significato, senza riferimento. Quindi, in ultima analisi, senza senso. Abbiamo finito con la logica dei segni. Credo che sia questo il punto su cui dobbiamo riflettere. Cosa succede al linguaggio una volta privato della logica dei segni?

Nel suo libro Metamorfosi dell’intelligenza cita l’Ecce Homo di Nietzsche. In un passaggio cruciale il filosofo tedesco, che lei descrive come un “grande pensatore del cervello” si definisce “il più furbo”, non il più intelligente. Il termine usato da Nietzsche, Klugheit, allude a forme “altre” di intelligenza tipiche della sapienza greca: la metis, a esempio, una sorta di astuzia pratica…

Nietzsche è stato tra i primi a comprendere la tendenza dominante alla simulazione autonoma e sui-referenziale. Il mito dell’eterno ritorno dell’identico è un’espressione di questo processo. Esiste solo la ripetizione, non la ripetizione di qualcosa, ma la ripetizione fine a se stessa, che non si rimanda a niente.

E questo “niente” è il volto contemporaneo del reale. Non sorprende che Nietzsche abbia individuato nella struttura del cervello, che descriveva come un insieme di anelli di relazioni di comando e obbedienza, quella che sarebbe diventata la logica cibernetica. Il filosofo ha sostituito il cervello alla mente, al fine di ridefinire il pensiero come ruminazione, reiterazione ed effetti di retroazione. Allo stesso tempo, riteneva che solo l’arte potesse liberarci da tutto questo. Su questo punto, non sono sicura che avesse ragione. L’arte stessa è ora… intrappolata nel loop.

In un altro lavoro molto influente, Che cosa fare del nostro cervello (Armando editore, 2007) lei faceva ancora distinzione tra cervello umano e cervello “artificiale”. Una distinzione che si basava sulla plasticità del primo rispetto alla rigidità del secondo. Questa distinzione è ancora valida? Ricordando che l’edizione originale di quel lavoro apparve nel 2004, che cosa è cambiato negli ultimi vent’anni?

Questa distinzione non è più valida. In Metamorfosi dell’intelligenza, ho confessato il mio errore su questo tema: «mi sono dunque sbagliata in Que faire de notre cerveau? La plasticità non è, come dicevo allora, l’antonimo della macchina, l’elemento decisivo che dovrebbe impedire di equiparare il cervello a un computer».

È vero che ho contrapposto la plasticità vivente del cervello organico al modo in cui funziona un computer. All’epoca, pensavo che ci fosse una differenza naturale tra la capacità delle connessioni neuronali di cambiare forma e ripararsi dopo una lesione e la rigidità automatica dei programmi cibernetici. L’ho pensato per molto tempo… finché non ho scoperto l’esistenza dei chip sinaptici!

Che cosa cambia con i chip sinaptici?

Con essi, è diventata possibile una simulazione perfetta del funzionamento cerebrale. Se il funzionamento cerebrale è un modello per i ricercatori impegnati sull’intelligenza Artificiale, lo è nella misura in cui questa funzione è perfettamente descrivibile in termini computazionali.

È inutile negarlo: il cervello e il computer sono in una relazione reciproca e speculare, di mirroring, e qualsiasi discorso di resistenza volto a proteggere la naturalità dell’intelligenza dalla sua cattura tecnologica è senza dubbio destinato a fallire. Viviamo in un’epoca di transizioni multiple tra il cervello e i dispositivi cibernetici, che sigillano la loro identità strutturale.

Per molto tempo si è pensato che la distinzione tra automatismo e libertà potesse preservare la seconda, considerata tipica dell’uomo, dalla prima, considerata tipica della macchina. In Metamorfosi dell’intellingenza lei offre una lettura spiazzante dell’automatismo, rimarcando che pensare profondamente alla tecnologia non significa rifiutare l’automatismo. Al contrario, significa riflettere più profondamente sull’oscillazione tra costrizione meccanica e libertà. Può spiegare questo passaggio, che per molti versi sembra oggi fondamentale? Citando David W. Bates, del quale Chicago University press ha da poco pubblicato l’affascinante An Artificial History of Natural Intelligence. Thinking with Machines from Descartes to the Digital Age, possiamo dire che la resistenza a una certa regressione che si respira nell’aria, se nasce può nascere non tanto dal rifiuto dell’automatismo, ma da una storia critica dell’automatismo…

Sono in debito con David Bates per avermi permesso di fare questa conversione nella mia visione del rapporto cervello/macchina. In un articolo decisivo, intitolato Automaticity, Plasticity, and the Deviant Origins of Artificial Intelligence (Automatismo, plasticità e origini devianti dell’Intelligenza Artificiale), Bates dimostra che l’intreccio tra automatismo e plasticità non “robotizza” la plasticità, ma piuttosto infonde nella macchina una fallibilità che da sola la rende intelligente.

Ancora una volta, è vero che, a prima vista, la plasticità cerebrale e i dispositivi cibernetici appaiono eterogenei. Ma in realtà, come Bates dimostra in modo straordinario, la vera natura dell’automatismo non è il funzionamento perpetuo, ma la capacità di rompersi e ripararsi.

In questo senso, l’automatismo è sempre critico; vive delle sue crisi e rotture, che portano alla sua riparazione o all’invenzione di nuovi automatismi.

Quando ho scritto la mia tesi su Hegel (L’Avenir de Hegel) ero molto sensibile alla definizione hegeliana di quello che lui chiama il concetto di automatismo speculativo. Hegel designa così una legge di composizione o di sintesi che opera da sola e non è ordinata dalla decisione di un Io, per cui il Sistema non ha autore. To autos, in greco, significa sia ciò che funziona meccanicamente, da solo, sia ciò che è autonomo. Il primo significato si riferisce alla costrizione, il secondo alla libertà.

Ciò che appare automatico nel primo senso, inevitabile, meccanico, determinato ad accadere, è allo stesso tempo animato da un’iniziativa. Non è sempre buona, la questione della virtù non preoccupa Hegel, ma è libera. Per lui è impossibile dissociare lo spirituale dall’automatico.

Michel Foucault insegnava che la critica consiste nel fuggire l’alternativa tra dentro e fuori e, nello stesso tempo, implica lo stare sempre su una frontiera: possiamo ancora permettercelo o, come si sente dire da più parti, è già tutto perduto? In poche parole: abbiamo ancora bisogno della filosofia, se non per salvarci almeno per interrogare, ,liberi, le frontiere che stiamo attraversando?

Il pensiero critico, dice Foucault, deve occuparsi di tre grandi tipi di relazione: «relazioni di dominio sulle cose, (…) relazioni di azione sugli altri, (…) relazioni con se stessi». Tre relazioni che segnano l’intima articolazione dell’«asse della conoscenza, dell’asse del potere, dell’asse dell’etica».

La filosofia può essere vista come il compito di esplorare queste relazioni e determinare come il soggetto si costituisce attraverso di esse. È importante capire che, per Foucault, situarsi alla frontiera implica anche attraversarla.

Infrangere i limiti. Ma… quali limiti? Proprio quelli che Kant assegnava alla ragione e alla soggettività, che, secondo lui, non può conoscere se stessa. Per Foucault, invece, si tratta di imparare a riconoscersi come soggetti di ciò che pensiamo, facciamo e diciamo, il che implica un atteggiamento filosofico “sperimentale”. E prima di dichiarare che “tutto è perduto”, dobbiamo scoprire, sempre con questa stessa ricerca sperimentale, chi lo dice, chi ha interesse a dirlo. Chi vuole distruggere la filosofia. Coloro che sostengono che non abbiamo più bisogno della filosofia sono generalmente coloro che la temono e la odiano. I “misologhi”. Così li chiamava Platone.