Chiacchiere e conoscenza

L’intelligenza artificiale generativa non è l’unica forma di automazione cognitiva possibile, non è nemmeno quella che ha più rilevanza per i cittadini del mondo, ma in qualche misura è diventata la tecnologia della quale si parla di più.

In effetti, basta pensare all’intelligenza artificiale che già da anni guida miliardi di persone nella scelta dei messaggi pubblicati sui social network ai quali concedere attenzione, per accorgersi che ci sono forme di automazione cognitiva molto più rilevanti per la vita degli umani. Eppure, le chat sembrano attrarre molto più dibattito di quando non venga dedicato agli algoritmi di raccomandazione.

Gli algoritmi di raccomandazione sono dietro le quinte. Non si sa come funzionano.

Sono stati pensati per aiutare gli utenti a gestire l’information overload.

Sono diventati dei sistemi per spingere gli utenti a restare più a lungo sulle piattaforme, per condurli a credere nell’esistenza di un mondo di informazioni e opinioni che corrispondono esattamente alla loro visione del mondo, per costruire mondi di senso che facilitano l’attività che costituisce il cuore del modello di business di quelle piattaforme: veicolare messaggi pubblicitari e modificare i desideri, le aspettative, le speranze, i timori, le emozioni più o meno aggressive di miliardi di persone. Questi algoritmi sono dotati di una funzione obiettivo che li conduce a suggerire messaggi che convincono gli utenti a restare di più sulla piattaforma, piuttosto che messaggi che hanno una certa qualità informativa.

Le chat sono però interfacce facili da usare per accedere a quello che le intelligenze artificiali generative hanno imparato intorno al linguaggio e al modo di usarlo per imitare l’espressione del pensiero umano nelle sue varie forme.

Poiché derivano dal calcolo delle probabilità queste tecnologie sono necessariamente in grado di dare risposte che in larga parte sono corrette ma che contengono inevitabilmente un margine di errore.

Ziwei Xu, Sanjay Jain, e Mohan Kankanhalli, dell’università di Singapore, ne hanno scritto nel paper Hallucination is Inevitable: An Innate Limitation of Large Language Models, un preprint ancora sotto revisione che si può trovare su arXiv. Anche queste interfacce non hanno alcuna specifica capacità di privilegiare le informazioni di qualità per produrre le loro risposte.

I motori di ricerca invece sono nati e hanno trovato il loro successo proprio sviluppando un sistema per riconoscere le informazioni di qualità, affidando agli utenti il compito di decidere in materia: Google, per esempio, era nato dall’idea che una pagina web che è stata linkata da molti utenti sia più rilevante di una pagina che non è stata segnalata da nessuno.

Era un modo per comprendere quale pagina web aveva una qualità riconoscibile e su questa base creare un algoritmo in grado di rispondere agli utenti in modo culturalmente un poco più valido che semplicemente tirando fuori le informazioni usando in modo casuale quello che è stato scritto e registrato in passato su qualsiasi pagina web.

Eppure il progetto di Microsoft e Google è quello di sostituire l’interfaccia dei loro motori di ricerca con una chat.

Gli errori e le imprecisioni che ne possono emergere mettono in qualche modo a rischio l’affidabilità dei loro prodotti: Google che è leader ci va con maggiore prudenza, Microsoft che deve inseguire fa della chat un motivo di curiosità in più per attrarre persone al suo servizio. La Search Generative Experience che si può provare su Google negli Stati Uniti è attualmente meno che soddisfacente.

Bing con ChatGPT appare talvolta più adeguato. Ma gli errori sono sempre possibili, quando si cerca una risposta articolata.

Le fonti non sono immediatamente leggibili (non sono nascoste ma non sono in evidenza).

Inoltre, le risposte a domande semplici sono sempre più verbose di quelle delle interfacce tradizionali dei motori di ricerca. In generale, il servizio è meno rassicurante di quello di un motore di ricerca alla vecchia maniera.

E allora perché lo fanno? Si direbbe che così evitano che gli utenti scappino velocemente su altre pagine quando fanno una ricerca. Trattengono traffico. Sfruttando in modo ancora più intenso quello che altri hanno fatto per trovare informazioni. Questo potrebbe produrre un’ulteriore concentrazione del traffico e della raccolta di dati nell’ecosistema internettiano.

Ma non c’è un limite oltre il quale un eccesso di concentrazione conduce a una reazione tale da moltiplicare le alternative e indurre le autorità antitrust a intervenire in modo deciso?

Le Big Tech si muovono così velocemente che i regolatori spesso non arrivano in tempo per frenare gli eccessi. Ma l’esperienza fatta con il web e l’internet mobile ormai è chiara. E le autorità dovrebbero avere imparato che intervenire troppo tardi è ben poco efficace.

Gli europei tentano di prevenire, ma il grosso delle piattaforme che tentano di regolamentare non sono europee.

Gli americani, d’altra parte, continuano a lavorare di reazione. Lasciando fare alle piattaforme molta innovazione in autonomia.

Ma non tutte le innovazioni sono dei miglioramenti. E questa volta gli utenti potrebbero riuscire a far sentire la loro voce.