In settori altamente regolamentati, come il settore pubblico, l'interesse per l'AI sta crescendo rapidamente. Ma aumentano anche le domande che ne derivano in merito a rischio, conformità e controllo.
Queste agenzie e organizzazioni governative sono sotto pressione per esplorare l'AI, continuando al contempo a proteggere i dati soggetti a obblighi legali, etici e di fiducia pubblica. I registri dei cittadini, le informazioni classificate e le informazioni relative alla sicurezza nazionale o alle infrastrutture critiche non possono essere semplicemente spostati, mascherati o esposti in nome della sperimentazione.
Per molto tempo, la sovranità dei dati ha fornito un quadro relativamente chiaro per affrontare questa sfida.
Se i dati sensibili rimanessero all'interno dei confini del paese corretto, all'interno di sistemi approvati e soggetti a controlli di accesso ben definiti, le organizzazioni potrebbero essere certe di operare in modo responsabile. Il controllo era strettamente legato alla posizione. In un ambiente basato sull'AI, tale presupposto non è più valido.
La buona notizia è che la sovranità nell'era dell'AI è raggiungibile. Tuttavia, farlo richiede una comprensione più pratica e moderna di cosa significhi realmente la sovranità dei dati in un contesto di AI.
Che cos'è la sovranità dei dati?
In sostanza, la sovranità dei dati riguarda il controllo.
Definisce quali leggi e normative si applicano ai dati, chi è autorizzato ad accedervi e come tali dati possono essere utilizzati, condivisi e protetti. Quando tali regole sono chiare, applicate, visibili e verificabili, esiste la sovranità dei dati.
Questo termine viene spesso confuso con concetti correlati:
Residenza dei dati, che descrive dove i dati sono fisicamente archiviati
Localizzazione dei dati, che limita il modo in cui i dati possono spostarsi oltre i confini
Governance dei dati, che definisce le politiche per l'accesso, la conservazione e la protezione
Ognuno di questi svolge un ruolo importante nel livello di sicurezza e conformità di un'agenzia. Nessuno di essi, tuttavia, garantisce da solo la sovranità. Sono meccanismi utilizzati per supportare quel più ampio risultato "sovrano": un controllo duraturo e applicabile nell’ambito di un quadro legale e normativo definito.
Perché l'AI ha cambiato la situazione
Storicamente, una volta ottenuto, tale controllo (o sovranità) poteva essere considerato relativamente stabile. L'AI ha stravolto tale congettura.
A differenza dei sistemi di analisi tradizionali, l'AI fa molto più che leggere o elaborare dati. Impara da essi, creando nuove forme di informazione come modelli addestrati, pattern appresi e insight derivati. Questi artefatti possono essere riutilizzati, condivisi e distribuiti tra gli ambienti, esponendo potenzialmente dati di addestramento sensibili anche quando i set di dati originali non vengono mai spostati.
Di conseguenza, la sovranità dei dati non può più essere valutata solo in base alla posizione di archiviazione. Ora dipende da come i sistemi di AI vengono progettati, addestrati, distribuiti, governati e monitorati nel tempo. Ecco perché, per le organizzazioni regolamentate, la sovranità dei dati non può essere trattata come una fase di conformità aggiunta dopo che i sistemi di AI sono già stati implementati. Per avere successo, deve far parte della progettazione fin dall'inizio.
Progettare strategie di AI che rispettino la sovranità
Quando la sovranità dei dati viene trattata come un aspetto secondario, le iniziative di AI seguono spesso uno schema familiare: i dati vengono copiati, centralizzati o spostati in nuovi ambienti per supportare nuovi strumenti e modelli. Sebbene questo possa accelerare la sperimentazione iniziale, aumenta anche il rischio, indebolisce la supervisione e rende più difficile la conformità normativa nel lungo termine.
Le organizzazioni che adottano un approccio più sostenibile partono da una premessa diversa. Invece di forzare i dati sensibili ad adattarsi agli strumenti di AI, progettano strategie di AI che rispettano i vincoli esistenti, come il luogo in cui risiedono i dati, le modalità di governance e le regole applicabili. Nei settori regolamentati, questo cambiamento è fondamentale.
Come si manifesta la sovranità nella pratica
Nella pratica, le soluzioni di sovranità dei dati riguardano meno i singoli strumenti e più il modo in cui dati, governance e sistemi di AI interagiscono tra loro in tutti gli ambienti. Le organizzazioni leader si concentrano su alcuni principi fondamentali:
Portare l'AI ai dati
In ambienti regolamentati, lo spostamento dei dati rappresenta spesso la maggiore fonte di rischio (o, in alcuni casi, è del tutto vietato). Copiare set di dati sensibili in nuove piattaforme o servizi cloud—anche se crittografati o mascherati—aumenta l'esposizione e complica la conformità.
Un approccio basato innanzitutto sulla sovranità inverte questa logica. I carichi di lavoro di AI sono progettati per operare vicino ai dati su cui fanno affidamento, indipendentemente dal fatto che tali dati risiedano on premise, in ambienti cloud sicuri o in sistemi distribuiti. Riducendo al minimo gli spostamenti non necessari, le organizzazioni riducono i rischi mantenendo un maggiore controllo.
Applica la governance durante l'intero ciclo di vita dell'AI
La data governance tradizionale termina spesso una volta che i dati sono stati acquisiti o analizzati. In un ambiente guidato dall'AI, la sovranità dipende dall'estensione della governance all'intero ciclo di vita dell'AI, dai dati grezzi all'addestramento, all'implementazione, al riutilizzo e al ritiro dei modelli.
Ciò include l'estensione dei controlli di accesso, del lineage e delle politiche di utilizzo oltre i set di dati, fino ai modelli e agli artefatti derivati creati a partire da essi. Senza questa continuità, le organizzazioni potrebbero essere tecnicamente conformi alle normative, perdendo tuttavia la visibilità su come vengono prese le decisioni guidate dall'AI.
Molte delle prime iniziative di AI incontrano difficoltà in questo ambito. Le responsabilità di governance sono frammentate tra strumenti e team, rendendo difficile spiegare i risultati o dimostrare la conformità. Un approccio di governance unificata, in cui i vincoli sono legati direttamente ai dati, consente ai programmi di AI di crescere su larga scala senza sacrificare la supervisione.
Mantenere visibilità, lineage e responsabilità
Nei settori regolamentati, non è sufficiente presumere che esistano dei controlli. Devono essere dimostrabili.
Le organizzazioni hanno bisogno di una visione chiara della provenienza dei dati, di come sono stati addestrati i modelli e di come i risultati dell'AI vengono utilizzati nel tempo. Questa esigenza è particolarmente sentita nel settore pubblico, dove la responsabilità si estende oltre gli enti regolatori e include revisori, organi di vigilanza e cittadinanza.
Le decisioni guidate dall'AI potrebbero dover essere spiegate anni dopo essere state prese. Integrare trasparenza, tracciabilità e verificabilità nei sistemi fin dall'inizio facilita l'adattamento alle nuove normative, la risposta alle richieste di chiarimento e il mantenimento della fiducia del pubblico.
La sovranità dei dati non è più qualcosa che le organizzazioni affrontano una volta sola per poi passare oltre. È ora una disciplina continua che modella il modo in cui le organizzazioni progettano, distribuiscono e gestiscono i sistemi intelligenti.
Cloudera è progettata in modo unico per supportare questo approccio, aiutando il settore pubblico e altri settori regolamentati a sviluppare capacità di AI che rispettino la sovranità, consentendo al contempo l'innovazione. Scopri di più su come aiutiamo le organizzazioni a fare entrambe le cose senza compromessi.
