Negli ultimi due anni l’intelligenza artificiale generativa è entrata nelle aziende con una velocità impressionante. In moltissimi contesti professionali l’adozione è partita ancora prima della definizione di regole realmente mature per governarne l’utilizzo. I messaggi che arrivavano dal mercato erano estremamente chiari. Bisognava sperimentare, aumentare la produttività, accelerare i processi e integrare rapidamente questi strumenti nelle attività quotidiane.
Le grandi piattaforme enterprise hanno iniziato a incorporare modelli generativi dentro suite collaborative, strumenti di sviluppo, sistemi documentali e processi operativi. In molte organizzazioni l’utilizzo dell’AI è cresciuto in modo spontaneo e diffuso, spesso molto più rapidamente della capacità interna di comprenderne davvero le implicazioni operative, legali e organizzative.
Proprio per questo motivo sta emergendo una fase nuova, molto diversa dall’entusiasmo iniziale che aveva accompagnato l’arrivo dei primi strumenti generativi.
Molte aziende stanno infatti continuando a investire nell’intelligenza artificiale, ma contemporaneamente stanno introducendo limiti, policy interne e controlli sempre più rigidi. Sta diventando evidente quanto sia complesso introdurre sistemi generativi dentro processi aziendali reali, soprattutto quando iniziano a interagire con dati sensibili, documentazione interna, codice sorgente o attività decisionali.
Questa tensione è emersa molto presto nelle grandi organizzazioni, già nella prima fase di adozione di massa degli strumenti generativi, e oggi continua a riaffiorare in forme più mature attraverso policy interne, ambienti controllati e programmi di governance.
Samsung ha limitato fortemente l’utilizzo di ChatGPT dopo che alcuni dipendenti avevano inserito codice sorgente riservato nei prompt utilizzati per ottenere supporto tecnico. Nel giro di poche settimane la questione è passata da semplice sperimentazione a problema concreto di protezione del know how aziendale.
Apple ha introdotto restrizioni interne sull’uso di ChatGPT e GitHub Copilot per timori legati alla possibile esposizione di informazioni confidenziali sui prodotti e sui processi di sviluppo.
Nel settore bancario il fenomeno è stato particolarmente rapido fin dall’inizio. Già nel 2023 JPMorgan, Deutsche Bank, Wells Fargo e altre realtà finanziarie avevano introdotto limitazioni o ambienti controllati per l’utilizzo degli strumenti generativi, soprattutto per esigenze di compliance, riservatezza e tracciabilità decisionale. A distanza di tempo, quei casi appaiono meno come episodi isolati e più come i primi segnali di una dinamica destinata a diventare strutturale.
Quasi nessuna di queste aziende ha realmente deciso di rinunciare all’intelligenza artificiale. Al contrario, molte stanno cercando di costruire un equilibrio più sostenibile tra innovazione e controllo.
La difficoltà più grande non sembra infatti legata al funzionamento tecnico dei modelli linguistici. Il vero cambiamento riguarda il comportamento che questi strumenti stanno generando all’interno delle organizzazioni e il modo in cui stanno modificando le abitudini lavorative delle persone.
Per la prima volta milioni di persone hanno avuto accesso immediato a strumenti capaci di produrre codice, analisi, documentazione, sintesi, email, presentazioni e contenuti tecnici con una qualità percepita spesso molto elevata. Questo ha portato moltissimi dipendenti a integrare spontaneamente l’AI nelle proprie attività quotidiane, anche in assenza di linee guida chiare o ambienti aziendali ufficialmente approvati.
È in questo contesto che si è diffuso il fenomeno della cosiddetta shadow AI.
In molte aziende stanno comparendo scenari completamente nuovi. Dipendenti che utilizzano strumenti personali per gestire attività aziendali, documenti caricati fuori dai sistemi governati, codice generato esternamente o analisi costruite con supporto AI senza processi di validazione realmente chiari. In alcuni casi anche decisioni operative iniziano ad appoggiarsi a contenuti sintetici dei quali diventa difficile ricostruire origine, verifiche effettuate e responsabilità finali.
Tradizionalmente la governance IT si è concentrata soprattutto sui sistemi, sulle infrastrutture e sugli accessi ai dati. Con l’intelligenza artificiale generativa il problema si sta spostando anche sulle interazioni cognitive e sui contenuti prodotti.
Diventa sempre più difficile comprendere dove finisca realmente il contributo umano e dove inizi quello generato dal modello. In molti casi emerge anche un tema di responsabilità, perché gli output prodotti dall’AI possono entrare rapidamente nei processi aziendali senza che esista una validazione realmente strutturata.
Molte organizzazioni stanno quindi iniziando a confrontarsi con il vero costo dell’adozione dell’AI enterprise. La produttività cresce rapidamente, ma la governance richiede tempi molto più lunghi, soprattutto quando entrano in gioco aspetti legati alla compliance, alla sicurezza e alla qualità delle informazioni.
I modelli generativi, inoltre, possiedono una caratteristica che rende il fenomeno ancora più complesso da gestire. Producono contenuti spesso molto convincenti, ed è proprio questa capacità di apparire credibili a creare le maggiori difficoltà organizzative.
Un errore evidente tende a essere individuato rapidamente. Molto più complesso è accorgersi di contenuti plausibili ma parzialmente errati, soprattutto quando iniziano a circolare dentro processi aziendali già consolidati.
Nel mondo enterprise questo sta modificando profondamente anche il concetto stesso di controllo qualità. La questione non riguarda più soltanto la correttezza tecnica dell’output prodotto, ma il livello di fiducia che le organizzazioni riescono ad attribuire ai contenuti che iniziano a circolare nei propri processi interni.
Per questo motivo molte aziende stanno entrando in una fase molto più strutturata rispetto a quella iniziale. Si stanno diffondendo ambienti AI privati, modelli interni, sistemi di validazione umana, policy di utilizzo, controlli sulla data protection e processi di audit dedicati.
L’adozione continua a crescere e difficilmente rallenterà nel breve periodo. Allo stesso tempo, però, sta cambiando il tipo di domanda che le organizzazioni iniziano a porsi.
Nella prima fase l’attenzione era concentrata soprattutto su come utilizzare rapidamente questi strumenti per aumentare l’efficienza. Oggi molte aziende stanno cercando di capire come integrare l’intelligenza artificiale senza perdere controllo sui processi, sulle decisioni e sulla qualità delle informazioni che circolano internamente.
È probabilmente questo il passaggio che definirà il modo in cui le aziende convivranno davvero con questi strumenti nei prossimi anni.
Fonti
Samsung e il leak di codice sorgente
Restrizioni Apple
Limitazioni nel settore bancario e corporate
Approccio enterprise e governance AI