Ciò è tanto più vero se troverà conferma la previsione delle Nazioni Unite che nel 2033 l’IA sarà un mercato 4,8 trilioni di dollari, Ovvero una mole immensa di dati, e di rischi, da gestire
Ecco perché la regolamentazione si è dovuta adeguare rapidamente. L'AI Act dell’Unione Europea, ad esempio, rappresenta il primo tentativo al mondo di definire norme complete nell’ambito dell'intelligenza artificiale. Stabilisce requisiti rigorosi per i sistemi ad alto rischio, obblighi specifici per i modelli di uso generale e sanzioni per le aziende che non sono in grado di dimostrare controllo e trasparenza.
Per le aziende europee e per chiunque commerci con loro, è fondamentale sapere dove risiedono i propri dati, come fluiscono e come si comportano i loro modelli. La governance perciò deve essere integrata nella piattaforma fin dall'inizio, seguendo i dati e i modelli attraverso cloud, edge e processi aziendali.
Nuove sfide
Per molte aziende , osserva Nutanix , tra i leader globali nel software cloud, offre alle aziende un'unica piattaforma per l'esecuzione di applicazioni e la gestione dei dati, tutto ciò si traduce in una sfida. La società indica tre aree di fallimento ricorrenti che minano la governance e la fiducia. La prima è legata alle lacune in materia di residenza e sovranità dei dati.
Più servizi AWS via SentinelOne
Molte piattaforme, ad esempio, non riescono a stabilire dove risiedono o come si muovono i dati quando i carichi di lavoro si estendono tra SaaS, hyperscaler ed edge. La situazione sta diventando insostenibile. L’EU Data Act, in vigore da settembre 2025, pone l’accento su portabilità, accesso e verificabilità. Se a ciò si aggiungono le iniziative nazionali di ‘sovereign AI diventa chiaro che le aziende hanno bisogno di controlli che non si limitino a conservare i dati in sicurezza bensì che dimostrino anche dove e come vengono elaborati.
La seconda area di criticità è l'implementazione frettolosa dei Large Language Model (LLM). Questi modelli vengono messi in produzione più velocemente di quanto ci voglia per essere validati. Senza una supervisione rigorosa, tendono ad "allucinare", a deviare dalle intenzioni iniziali o a non allinearsi alle policy aziendali. Anche le autorità di regolamentazione hanno notato questo problema, come dimostra l'attenzione specifica dell'AI Act dell'UE sull'intelligenza artificiale di uso generale e la creazione del nuovo AI Safety Institute nel Regno Unito dedicato al testing dei modelli. Implementare modelli senza una governance adeguata è un rischio per la reputazione aziendale.
Il terzo problema è rappresentato dai punti ciechi nel ciclo di vita dei dati. Ciò accade quando la mancanza di strumenti integrati per applicare le policy - dall'ingestione all'addestramento, al deployment fino all'inferenza - compromette la supervisione e la verificabilità. Di conseguenza, le aziende non possono dimostrare la conformità end-to-end. E quando si verifica un problema, come una violazione dei dati, segnalazione di bias o un'ispezione normativa, queste aziende si ritrovano a gestire registri frammentati e dati incompleti.
Lapproccio vincente?
Se le lacune nella governance generano rischi, un approccio vincente prevede che la sovranità, la validazione e la gestione del rischio siano integrate nella piattaforma di IA fin dalla sua progettazione e non semplicemente aggiunte in un secondo momento. Non è più sufficiente affermare che i dati sono "conservati in modo sicuro". Le aziende devono dimostrare dove si trovano, come si muovono e chi li gestisce, in tutti gli ambienti multicloud ed edge. Ciò si traduce nella necessità di una tracciabilità verificabile, uno storage e una gestione geolocalizzati nonché controlli che seguano i dati ovunque si spostino.
Un approccio vincente, aggiunge ancora Nutanix, richiede anche una validazione continua per gli LLM. L'accuratezza è solo un punto di partenza, non un traguardo finale. Gli LLM devono essere monitorati costantemente per identificare problemi come la deviazione dalle intenzioni originali, bias e allucinazioni con la tecnica di Retrieval-Augmented Generation (RAG) e l’audit trail, che rafforzano la fiducia nei risultati. Le autorità di regolamentazione hanno già chiarito che la presenza di pipeline dedicate alla trasparenza e alla valutazione saranno requisiti obbligatori.
Il terzo elemento di un approccio vincente è una governance integrata in ogni livello dell'infrastruttura..
La sfida per i responsabili aziendali risiede nel tradurre i principi di governance in pratiche operative quotidiane. Alcune priorità emergono chiaramente:
- Adottare un framework riconosciuto.
- Rendere portabili le policy.
- Investire nella valutazione e nell'osservabilità.
- Pianificare la sovranità.,