L'intelligenza (poca) dell'intelligenza artificiale

Analisi & Approfondimenti

Nell’ultima riflessione fatta su questo argomento si è avanzato qualche dubbio circa il fatto che la combinazione di big data e intelligenza artificiale possa essere realmente una fonte di conoscenze superiore a quelle che un intelletto umano potrebbe mai produrre. 

Il motivo è innanzitutto di principio. Una cosa è individuare delle correlazioni sulla base dei dati analizzati da un algoritmo, altra è inferire delle generalizzazioni sulla base di quei dati. Per dirla in maniera netta, per quanto possano essere big i big data e per quanto possa essere ampia l’osservazione dei dati, non potrai usarli per fare delle previsioni sul futuro, come ebbe a sperimentare il povero tacchino di Bertrand Russell. Il motivo è semplice, il metodo induttivo non esiste perchè non siamo una tabula rasa, perchè non si può osservare e misurare tutto e perchè guardiamo sempre il mondo con delle lenti che sono le nostre teorie: “come è strano - scrive Charles Darwin - che nessuno veda che ogni osservazione non può essere che pro o contro qualche teoria”

Ora, se il metodo induttivo non esiste e se sciocco è stato il comportamento del tacchino perchè dovremmo definire intelligente quello di un algoritmo che ingurgita una quantità enorme di dati e ne tira fuori le stesse conclusioni che hanno lo stesso valore di quelle del tacchino? Per dirla diversamente “i metodi predittivi basati su apprendimento automatico e intelligenza artificiale assumono implicitamente che il nostro futuro è il nostro passato”. Il che ovviamente non è vero. Altra cosa è se consideriamo l’algoritmo di per sè una teoria che interroga dei dati. A quel punto le cose si capovolgerebbero e passeremmo dal metodo induttivo a quello deduttivo. Ma di questo ne parleremo più in là.

Dunque, definire intelligente l’intelligenza artificiale è del tutto improprio: dire che un algoritmo è intelligente è come dire che un sottomarino sa nuotare come una balena o un aereo volare come un falco. Per fare qualche esempio, agli algoritmi di machine learning si danno in pasto alla macchina i dati, un obiettivo da raggiungere e un feedback che le dica quando è sulla pista giusta, e la si lascia lavorare per capire qual è il modo migliore di raggiungere l’obiettivo. 

Ora il punto è che in questi casi la macchina sceglierà una soluzione che “agli occhi di un essere umano - scrive Hannah Fry - risulterà incomprensibile, con scelte indecifrabili anche per i programmatori più brillanti”. Il che non rende affatto la macchina intelligente perchè arriva ad un obiettivo attraverso strade che agli umani sembrano incomprensibili. In questo senso, continua Hannah Fry, più che parlare di intelligenza artificiale, “sarebbe meglio considerare quella che stiamo vivendo come una rivoluzione più nel campo della statistica computazionale che in quello dell’intelligenza”. Come scrive Alfonso Fuggetta del Politecnico di Milano “abbiamo molti più dati, molta più memoria e molta più potenza di calcolo. Ma da qui a dire che abbiamo una vera ‘intelligenza artificiale’ ne passa. Siamo in grado di automatizzare sempre più i processi, ma più automazione non implica necessariamente (più) intelligenza”. Come dice Giorgio De Michelis, siamo in presenza di “razionalità artificiale” più che di “intelligenza artificiale”. (Si veda “Il paese innovatore”, Egea 2020)

C’è di più, maggiore automazione e maggiore razionalità non significano affatto maggiore conoscenza. Scrive Popper: “la conoscenza non comincia con percezioni o osservazioni o con la raccolta di dati o di fatti, ma comincia con problemi” e “ogni problema nasce dalla scoperta che c’è qualcosa che non va in quella scienza che riteniamo di avere; o, in termini logici, dalla scoperta di un’interna contraddizione fra ciò che riteniamo il sapere e i fatti, o, in termini forse ancora più esatti, dalla scoperta di un’apparente contraddizione fra quello che riteniamo nostro sapere e quelli che riteniamo i fatti”. In breve, il punto di partenza della ricerca e quindi della produzione di vera conoscenza è “sempre il problema”; la ricerca, conlcude Popper “non prende l’avvio da un’asserzione osservativa, ma da una situazione problematica”.