La Maledizione dell'Apprendista. Perché l'IA non è una scopa magica fuori controllo (ma potremmo esserlo noi).
Io non ci sto. Io credo che la verità sia molto più complessa e ci veda molto più responsabili di quanto vorremmo ammettere.
Il Fascino Innegabile della Metafora (e Perché è Pericolosa)
La metafora dell'Apprendista Stregone è perfetta per chi vuole vendere paura e, come ben sappiamo, la paura è una leva emotiva potentissima. L'articolo di Rivista.ai tocca un nervo scoperto: vediamo l'IA "allucinare", produrre informazioni false con un'autorevolezza terrificante; vediamo i sistemi di deepfake diventare indistinguibili dalla realtà; percepiamo la "scatola nera" (il black box) di questi modelli come un abisso imperscrutabile.
È innegabile: abbiamo creato strumenti di una complessità tale che nessuno, singolarmente, ne comprende appieno il funzionamento interno. Il "problema dell'allineamento" (l'incapacità di garantire che gli obiettivi dell'IA restino allineati ai nostri valori) è il termine tecnico moderno per dire: "non sappiamo come dire alle scope di smettere di portare acqua".
Ma focalizzarci solo su questo aspetto significa commettere l'errore dell'apprendista: guardare la scopa e non la nostra stessa mano che ha lanciato l'incantesimo.
L'Errore dell'Apprendista non è la Magia, è la Hubris
Torniamo alla storia originale. L'errore di Topolino (o dell'apprendista nel poema di Goethe) non è la magia in sé. La magia esiste, fa parte di quel mondo ed il suo errore è la hubris.
E fermiamoci un attimo su questa parola, perché è centrale.
Nell’antica Grecia, la «hubris» (o tracotanza) era il peccato peggiore: l'atto di un eroe che, ubriaco della sua stessa forza, cercava di oltrepassare i limiti imposti dagli dèi, venendo inevitabilmente punito dalla nemesi, la vendetta divina.
Oggi, questa non è solo mitologia. In psicologia, esiste una vera e propria "Sindrome di Hubris". Come spiegano studi recenti, tra cui uno relativamente recente dell’università di Maastricht, riportato anche da Psychology Today, è un mutamento della personalità che colpisce chi raggiunge una posizione di potere o un successo travolgente.
Non è semplice vanità bensì un'intossicazione da potere. Questa sindrome provoca una perdita di empatia, un'eccessiva sicurezza di sé, il disprezzo per le regole e la convinzione di potersi concedere tutto. L'individuo, che sia un leader politico o l'amministratore di una grande azienda, inizia a identificarsi totalmente con il proprio ruolo e la propria visione del mondo, rifiutando qualsiasi critica. Gli effetti possono essere devastanti sulle persone e sulle organizzazioni.
Ecco, l'errore dell'apprendista è questo. È la fretta nata dalla hubris.
L'apprendista non vuole fare la fatica di imparare. Non vuole studiare, capire i principi, la disciplina. Vuole il risultato, subito. Prende una scorciatoia, ruba il cappello del maestro, pronuncia parole che non comprende per ottenere un potere che non ha ancora meritato.
Non vi suona familiare?
Guardiamo al panorama attuale. Viviamo in una corsa sfrenata. Una "corsa agli armamenti" dell'IA dove giganti tecnologici lanciano modelli sempre più grandi, sempre più potenti, non perché abbiamo risolto i problemi di sicurezza o di allineamento del modello precedente, ma perché devono uscire prima del concorrente.
Stiamo implementando l'IA nei sistemi di assunzione, nelle diagnosi mediche, nelle aule di tribunale, non sempre perché è la soluzione migliore o più sicura, ma perché è la soluzione nuova, quella che promette efficienza e taglia i costi. Stiamo usando l'incantesimo senza aver letto tutto il manuale, saltando a piè pari i capitoli sull'etica, sul controllo e sulle conseguenze a lungo termine.
L'IA non è una forza della natura che ci è piombata addosso. È un artefatto, ovvero il prodotto di scelte umane, di investimenti economici e di priorità aziendali dettate dalla hubris.
Gestire il Diluvio: Non Servono Meno Scope, Servono Più Maestri
Quindi, cosa facciamo? Ci sediamo su una sedia e aspettiamo di affogare, sperando che arrivi il "Maestro Stregone" (un deus ex machina, un regolatore globale, un'illuminazione improvvisa) a salvarci?
Questa è la parte che la metafora dell'Apprendista Stregone convenientemente omette. Nella storia, il Maestro arriva. Rimette le scope al loro posto, asciuga l'acqua e lancia un'occhiataccia all'apprendista.
Nel nostro mondo, non c'è nessun Maestro Stregone che verrà a salvarci.
Il Maestro dobbiamo diventarlo noi. E dobbiamo diventarlo in fretta.
Questo è il cuore della mia missione, il punto di equilibrio che cerco di divulgare: non dobbiamo avere paura dell'IA, ma non dobbiamo cadere nell'idolatria della sua potenza. Dobbiamo sviluppare saggezza.
Come?
Dalla STEM all'Umanesimo (e Ritorno): Il problema non è tecnico, è umano. Non risolveremo l'allineamento solo con più matematica. Lo risolveremo (forse) solo quando ingegneri, filosofi, sociologi, artisti e psicologi lavoreranno insieme, con pari dignità, fin dalla progettazione del sistema (la famosa ethics by design). Dobbiamo smettere di chiedere solo "Cosa può fare?" e iniziare a chiederci ossessivamente "Cosa dovrebbe fare? E cosa non dovrebbe fare mai?".
Investire in Controllabilità, non solo in Potenza: Invece di riversare miliardi solo per rendere i modelli più grandi (le scaling laws), dobbiamo investire massicciamente in Explainable AI (XAI) e in sistemi di controllo robusti. Voglio un'IA di cui posso "aprire il cofano", interrogarla sul suo processo decisionale. Voglio un pulsante di spegnimento che funzioni.
Alfabetizzazione Diffusa (La Vera Magia): Il vero antidoto alla paura non è l'ignoranza, è la competenza. Ma non la competenza per diventare tutti ingegneri. Dobbiamo promuovere un'alfabetizzazione critica sull'IA. Dobbiamo insegnare ai nostri figli, ai professionisti, ai politici, come funzionano questi strumenti, quali sono i loro limiti intrinseci (i bias), e come interrogarli criticamente. Un cittadino consapevole è un apprendista che sta iniziando a capire la magia.
Le Scope Siamo Noi
L'Intelligenza Artificiale non è la scopa. La scopa è un oggetto inanimato che esegue un ordine. L'IA è uno specchio. È un amplificatore statistico di tutto ciò che le abbiamo dato in pasto: la nostra lingua, la nostra storia, le nostre conoscenze e, purtroppo, tutti i nostri pregiudizi, i nostri angoli ciechi e la nostra fretta.
Non stiamo combattendo contro scope magiche fuori controllo bensì lo stiamo facendo contro le conseguenze delle nostre stesse scorciatoie, nate dalla nostra hubris.
La "Sindrome dell'Apprendista Stregone" è una diagnosi comoda, ma la malattia vera è la nostra hubris tecnologica. È ora di smettere di sentirci Topolino e iniziare ad assumerci la responsabilità di diventare i maestri. Di fatto non abbiamo altra scelta.