Gli algoritmi non bastano

1. L’Intelligenza Artificiale Generale Rimane Sfuggente Nonostante i Successi dell’IA Specializzata

Gli strumenti che ci permettono di costruire intelligenze specializzate non sono adeguati al compito dell’intelligenza generale.

Trionfi specializzati. Da decenni, l’intelligenza artificiale ottiene risultati straordinari in ambiti ristretti, dal battere campioni mondiali a scacchi e Go al diagnosticare malattie o guidare auto a guida autonoma. Questi successi, però, derivano da algoritmi altamente specializzati e da strutture di problema progettate dall’uomo, non da una comprensione o adattabilità generalizzata. Ogni progresso, per quanto impressionante, è un “riccio” – eccelle in un aspetto importante – piuttosto che una “volpe” che conosce molte cose.

Portata limitata. I sistemi di IA attuali sono essenzialmente “esploratori di percorsi” sofisticati all’interno di “spazi di stato” predefiniti. Che si tratti di muovere pedine a scacchi o riconoscere pattern in immagini mediche, l’intelligenza del sistema è confinata al problema specifico e alla rappresentazione fornita dai suoi progettisti umani. Ciò significa che un’IA che gioca a Go non può improvvisamente scrivere poesie, né un sistema diagnostico medico può guidare un’auto, evidenziando il divario profondo tra intelligenza specializzata e generale.

Dipendenza eccessiva dal calcolo. I pionieri dell’IA, come Herbert Simon, prevedevano con ottimismo un’IA generale entro qualche decennio, confidando che l’aumento della potenza di calcolo e della memoria avrebbe colmato il divario. Sebbene la capacità computazionale sia cresciuta esponenzialmente (legge di Moore), essa ha principalmente reso più veloci e pratici i metodi specializzati esistenti, senza abilitare una vera intelligenza generale. Il limite fondamentale non è la velocità o la memoria, ma la mancanza di meccanismi per definire e rappresentare autonomamente i problemi.

2. L’Intelligenza Umana Combina Intuizione Rapida e Algoritmi Deliberati

L’intelligenza umana, compresa quella di Einstein, richiede sia un tipo di pensiero logico e sistematico sia un tipo non logico che permette l’intuizione.

Due sistemi di pensiero. L’intelligenza umana opera attraverso l’interazione dinamica di due sistemi cognitivi distinti ma complementari. Daniel Kahneman li definisce come Sistema 1, veloce, automatico, intuitivo e spesso emotivo, e Sistema 2, lento, deliberato, logico e faticoso. Mentre il Sistema 2 è associato a funzioni intellettuali elevate come la risoluzione complessa di problemi e il ragionamento formale, il Sistema 1 sostiene l’apprendimento rapido, il riconoscimento di schemi e il buon senso.

Euristiche e bias. Il Sistema 1 utilizza frequentemente “euristiche” – scorciatoie mentali generalmente efficaci ma che possono portare a bias prevedibili o “errori” nella logica formale. Esempi includono:

• Euristica della disponibilità: giudicare la probabilità in base a quanto facilmente vengono in mente esempi.
• Euristica della rappresentatività: giudicare la probabilità in base alla somiglianza con un prototipo.
• Effetto framing: decisioni diverse a seconda di come l’informazione è presentata (es. “90% di sopravvivenza” vs. “10% di mortalità”).
  Queste “stranezze” non sono semplici difetti, ma meccanismi essenziali che permettono agli esseri umani di orientarsi in un mondo complesso e incerto senza perdersi nei pensieri.

Oltre la pura logica. A differenza dei primi modelli di IA che cercavano di replicare il pensiero umano come processo puramente logico e sistematico, l’intelligenza reale è intrinsecamente sfumata e non monotona. Impariamo da pochi esempi, formuliamo inferenze rivedibili (credenze soggette a revisione) e spesso privilegiamo esiti plausibili rispetto a quelli strettamente logici. Questa combinazione di processi intuitivi, spesso “irrazionali”, con quelli deliberati e “razionali” è cruciale per l’adattabilità e la risoluzione di problemi nel mondo reale.

3. La Giusta Rappresentazione del Problema (TRICS) è l’Eroe Silenzioso del Progresso dell’IA

L’inventiva su cui si basano è fornita dagli esseri umani.

Strutture progettate dall’uomo. Ogni sistema di intelligenza computazionale di successo, dai programmi di scacchi alle reti neurali profonde, deve le sue capacità alle “rappresentazioni che suppone in modo cruciale” (TRICS) – i modi specifici in cui i suoi progettisti umani strutturano il problema, gli input e le possibili soluzioni. Queste rappresentazioni trasformano problemi complessi e intrattabili in problemi più semplici e computabili. Per esempio, rappresentare gli scacchi come un albero di mosse o il Go come una sfida di riconoscimento di pattern ha reso questi giochi risolvibili dall’IA.

Il collo di bottiglia dell’innovazione. La capacità di creare rappresentazioni nuove ed efficaci è il principale limite per raggiungere l’intelligenza artificiale generale. L’IA attuale può ottimizzare parametri all’interno di una rappresentazione data, ma non può inventare autonomamente nuovi quadri concettuali o paradigmi di risoluzione dei problemi. Questo salto creativo, esemplificato dall’anello benzenico di Kekulé o dalla tavola periodica di Mendeleev, resta una capacità unicamente umana che l’IA non ha ancora replicato.

Conoscenza implicita nel design. Anche le reti neurali profonde apparentemente “autoapprendenti” sono fortemente influenzate dal loro design architetturale, che codifica implicitamente assunzioni sui dati e sul compito di apprendimento. Per esempio, lo strato di collo di bottiglia di un autoencoder è progettato per eseguire una specifica riduzione statistica, non per inventare una nuova forma di compressione dati. L’“intelligenza” spesso risiede nell’ingegnosità del progettista umano di queste strutture di base, non nella capacità della macchina di superarle.

4. Il Machine Learning Eccelle nell’Ottimizzazione, Ma Manca di Vera Creatività e Buon Senso

Le evidenze suggeriscono che l’invenzione – per esempio, la progettazione di nuove strutture impreviste, la formulazione di nuovi paradigmi scientifici o la creazione di nuove forme di rappresentazione – richiede un insieme di abilità diverso dall’ottimizzazione su uno spazio noto.

I limiti dell’ottimizzazione. Il machine learning è fondamentalmente un processo di ottimizzazione: regolare parametri all’interno di un modello predefinito per massimizzare un risultato desiderato (es. accuratezza, ricompensa) o minimizzare l’errore. Questo è efficace per compiti come classificazione, previsione e giochi strategici dove lo spazio del problema è ben definito. Tuttavia, l’ottimizzazione non può generare parametri completamente nuovi, ridefinire lo spazio del problema o inventare soluzioni fuori dal proprio quadro.

Assenza di buon senso. Un elemento critico mancante nell’IA attuale è il buon senso – la vasta conoscenza implicita e spesso non monotona che gli umani usano per orientarsi nella vita quotidiana. Il buon senso ci permette di:

• Inferire fatti non esplicitati (es. se Giovanni ha un lavoro, guadagna denaro).
• Risolvere ambiguità (es. “tube” a Londra significa metropolitana).
• Comprendere significati dipendenti dal contesto.
• Ragionare su causa ed effetto.
  Senza questo, l’IA fatica con problemi mal formulati, situazioni impreviste e persino la comprensione basilare del linguaggio, commettendo spesso errori “stupidi” che nessun umano farebbe.

Creatività come riconcettualizzazione. La vera creatività, come quella del genio umano, implica la “riconcettualizzazione” – creare nuovi insiemi di parametri o rappresentazioni completamente nuove del problema. La mossa “creativa” di AlphaGo è stata un percorso inaspettato all’interno di uno spazio di gioco noto, non una ridefinizione del gioco stesso. L’IA può generare combinazioni nuove all’interno di quadri esistenti (es. nuova musica in uno stile appreso), ma non può inventare autonomamente nuovi stili artistici o paradigmi scientifici.

5. L’Esperienza Umana si Sviluppa Attraverso la Pratica Deliberata e la Conoscenza Astratta

La memoria superiore deriva dall’essere un esperto, non l’esperienza dall’avere una buona memoria.

Conoscenza, non solo capacità. L’esperienza umana non riguarda solo una memoria migliore o una velocità di elaborazione superiore; riguarda l’acquisizione e l’organizzazione di conoscenze profonde e astratte in un dominio specifico. I maestri di scacchi, per esempio, non ricordano solo più posizioni di pezzi, ma riconoscono “blocchi” complessi o schemi di pezzi e le loro implicazioni strategiche, permettendo loro di identificare rapidamente mosse di alta qualità.

Rappresentazioni astratte. Gli esperti si distinguono dai principianti non solo per la quantità di conoscenza, ma per come rappresentano i problemi. Gli esperti di fisica categorizzano i problemi in base a principi fondamentali (es. conservazione dell’energia), mentre i principianti si concentrano su caratteristiche superficiali (es. molle, piani inclinati). Questa capacità di astrarre dai dettagli concreti ai principi fondamentali è una caratteristica dell’esperienza, che consente una risoluzione più efficace dei problemi e il trasferimento dell’apprendimento.

La “regola dei 10 anni” e la pratica deliberata. Raggiungere un’esperienza d’élite in campi diversi – dalla musica agli scacchi, dallo sport alla scienza – richiede tipicamente circa 10.000 ore o 10 anni di “pratica deliberata”. Non si tratta di una pratica qualsiasi, ma di uno sforzo focalizzato, misurabile e con feedback immediato, volto a migliorare aspetti specifici della performance. Ciò suggerisce che l’esperienza è in gran parte coltivata, non innata, e implica che anche per l’IA non esistano scorciatoie per acquisire conoscenze profonde e specifiche.

6. Le Paure di una Superintelligenza e di una “Robopocalisse” Sono Fondamentalmente Errate

Se una macchina deve essere infallibile, non può anche essere intelligente.

Fraintendimenti sulla crescita dell’IA. La paura di una “singolarità tecnologica” o di una “robopocalisse”, in cui un’IA superintelligente si auto-migliora rapidamente e prende il controllo, nasce da diversi fraintendimenti fondamentali. Spesso si confonde la capacità computazionale con la vera intelligenza, assumendo che processori più veloci portino automaticamente a una crescita intellettuale esponenziale. Tuttavia, l’intelligenza richiede più della velocità; necessita di conoscenza, esperienza e capacità di interagire con un mondo incerto.

Limitazioni nel mondo reale. La velocità con cui l’IA può “imparare” e “migliorare” è spesso vincolata dal ritmo di interazione e feedback nel mondo reale, non solo dalla velocità del processore. Per esempio:

• La previsione meteorologica richiede di attendere gli eventi atmosferici reali.
• Le auto a guida autonoma apprendono dai chilometri percorsi, incontrando eventi rari lentamente.
• Problemi complessi come la “somma di tre cubi” possono richiedere anni di calcolo nonostante poche variabili.
  Questi colli di bottiglia fisici e informativi limitano intrinsecamente il ritmo di espansione dell’intelligenza, impedendo qualsiasi “esplosione” improvvisa e incontrollabile.

La fallacia del “genio nella lampada”. Esperimenti mentali come il “massimizzatore di fermagli” di Bostrom assumono che un’IA persegua ossessivamente un obiettivo mal definito a discapito dell’umanità. Tuttavia, l’IA attuale non può:

• Definire o ridefinire autonomamente i propri obiettivi.
• “Comprendere” la propria missione oltre i parametri programmati.
• Generare soluzioni veramente nuove fuori dal proprio spazio rappresentazionale.
  Tali scenari ignorano le profonde limitazioni dell’IA attuale e la natura complessa, spesso contraddittoria, dei valori e obiettivi umani. Le “soluzioni inaspettate” trovate dall’IA sono vincolate dal suo design, non arbitrariamente innovative.

7. Raggiungere l’IA Generale Richiede Nuovi Paradigmi per l’Auto-Rappresentazione e l’Apprendimento

Un’intelligenza artificiale generale dovrà essere in grado di creare le proprie rappresentazioni nuove.

Oltre l’ottimizzazione. La strada verso l’intelligenza artificiale generale (AGI) non può essere percorsa semplicemente potenziando le tecniche attuali di machine learning – un “mucchio di ricci”. L’AGI richiede un cambiamento fondamentale di approccio, andando oltre la semplice ottimizzazione di parametri all’interno di quadri progettati dall’uomo. Serve meccanismi per:

• Identificazione autonoma dei problemi e definizione degli obiettivi: riconoscere problemi e stabilire scopi senza input umano esplicito.
• Generazione creativa di rappresentazioni: inventare nuovi modi di concettualizzare i problemi, simili all’intuizione umana.
• Apprendimento per trasferimento robusto: applicare conoscenze da un dominio a problemi completamente nuovi e dissimili senza dimenticanza catastrofica.

Imparare dallo sviluppo umano. Le intuizioni dallo sviluppo cognitivo umano, come le fasi di Piaget o l’enfasi di Vygotsky sul linguaggio come strumento del pensiero, suggeriscono che l’AGI potrebbe beneficiare di un approccio “macchina bambino”. Ciò implica partire da sistemi più semplici e permettere loro di apprendere attraverso interazione ed esperienza, costruendo gradualmente complessità e comprensione astratta. Tuttavia, questo richiede di superare sfide come l’apprendimento rapido da pochi esempi e la capacità di formare analogie astratte.

La sfida della “comprensione”. Sebbene l’emulazione cerebrale totale sia una possibilità teorica, la nostra comprensione attuale dei processi intricati, dinamici e spesso stocastici del cervello è troppo limitata. Non sappiamo come i neuroni immagazzinino ricordi, cambino ruolo o contribuiscano alla coscienza. L’AGI emergerà probabilmente non da una replica biologica perfetta, ma da nuove architetture computazionali capaci di:

• Ragionare in modo non monotono: modificare le credenze alla luce di nuove prove contraddittorie.
• Sfruttare analogie e metafore: identificare relazioni inaspettate tra concetti disparati.
• Navigare sistemi caotici: gestire fenomeni reali dove piccoli cambiamenti hanno effetti imprevedibili e su larga scala.
  Queste capacità rappresentano la frontiera della ricerca sull’AGI, richiedendo un cambio di paradigma oltre gli approcci algoritmici e focalizzati sull’ottimizzazione attuali.