L'agentic AI sta passando dalle demo alla produzione più rapidamente di qualsiasi altra tecnologia aziendale in passato. I sistemi autonomi stanno già ragionando su dati proprietari, utilizzando strumenti interni e compiendo azioni dalle conseguenze rilevanti all'interno dei principali flussi di lavoro aziendali. Questo cambiamento rende urgente una domanda: quando gli agenti possono agire, chi può ispezionarli, verificarli e difenderli?
La risposta di Cloudera è che le difese a protezione delle nostre infrastrutture devono essere sviluppate in modo aperto e trasparente. Per questo siamo orgogliosi di essere tra i partner fondatori della nuova Open Secure AI Alliance, insieme a NVIDIA e ad altri leader nei settori del cloud, della cybersicurezza, del software enterprise, dell'open source e della ricerca sull'AI. Si tratta di un'iniziativa volta a sviluppare e condividere tecnologie, tecniche e strumenti aperti per proteggere software e agenti nell'era dell'AI.
Cloudera vanta una lunga storia, profondamente radicata nel settore dell'open source. Sappiamo da tempo che i formati open data lakehouse sono un pilastro fondamentale dell'economia e fungono essenzialmente da servizio essenziale su cui si basano il cloud computing, i servizi finanziari, le telecomunicazioni e le infrastrutture governative.
Nell'era dell'AI, il software open source e i modelli open-weight sono fondamentali per la leadership e la cybersicurezza. Secondo le stime del settore, tra il 76% e il 99% delle basi di codice dei software commerciali si basa già su software open source.
I modelli aperti trasformano gli utenti in creatori, accelerando l'innovazione e garantendo che il progresso non venga limitato a un numero ristretto di organizzazioni centralizzate. Ancora più importante, un ecosistema aperto consente la ricerca scientifica indipendente e un esame approfondito, permettendo ai difensori di comprendere, valutare e migliorare il comportamento dei sistemi di AI.
In Cloudera promuoviamo una neutralità assoluta. Riconosciamo che, per mantenere la leadership nella rivoluzione dell’AI, l’infrastruttura che sostiene la nostra economia richiede un accesso sicuro e protetto sia ai modelli chiusi e proprietari, sia a quelli aperti.
I nostri clienti aziendali hanno bisogno della flessibilità necessaria per adattare l'AI ai rispettivi settori, ai dati proprietari, ai clienti e ai requisiti operativi. Devono poterlo fare proteggendo i propri dati ed evitando il vendor lock-in.
Mantenendoci rigorosamente neutrali, consentiamo alle organizzazioni di creare sistemi ibridi che rispecchiano le loro priorità specifiche.
Ciò è particolarmente importante per i settori altamente regolamentati, come quello finanziario, il settore pubblico e le infrastrutture critiche, dove le imprese devono garantire la conformità normativa, la sovranità dei dati e la resilienza geopolitica, spesso scegliendo di evitare di dipendere da API ospitate all'estero. La sicurezza e la difesa dell'AI richiedono un ecosistema diversificato e aperto, anziché un unico punto di controllo.
Mentre il settore si è concentrato quasi esclusivamente sui modelli di fondazione, la sicurezza richiede di considerare il quadro più ampio. Un agente AI non è solo un modello; è un sistema complesso composto da modelli, harness e misure di sicurezza che determinano a cosa può accedere un agente.
L'harness è la struttura di supporto fondamentale che consente a un agente AI di osservare il contesto, ragionare sui problemi e agire con decisione. Poiché gli agenti operano autonomamente attraverso i sistemi aziendali, proteggere questo harness è di fondamentale importanza. I sistemi chiusi rischiano di precludere ai difensori l'accesso a informazioni strategiche fondamentali. Al contrario, gli harness e gli strumenti aperti ampliano notevolmente le capacità difensive e aumentano la trasparenza.
Attraverso l'Open Secure AI Alliance, NVIDIA contribuisce con attività di ricerca fondamentali per accelerare lo sviluppo di questi strumenti di cybersicurezza. Ad esempio, il framework open source NVIDIA Labs Object-Oriented Agent (NOOA) semplifica l'integrazione degli harness con i modelli, rendendo così il comportamento degli agenti molto più facile da testare, tracciare, sottoporre a audit e governare. Queste funzionalità garantiscono che, quando gli agenti vengono integrati nei flussi di lavoro aziendali, le loro azioni rimangano conformi alle regole e verificabili.
Il nostro portafoglio di soluzioni per l'AI agentica è progettato proprio per questo: eseguire e orchestrare i modelli scelti dal cliente all'interno del suo ambiente, garantendo tracciabilità della provenienza dei dati, applicazione delle policy e osservabilità lungo l'intero processo. L'inferenza aperta, i controlli del gateway, un livello di contesto e strumenti soggetto a governance e la piena verificabilità tramite audit fanno sì che, quando un agente agisce, le sue azioni rimangano conformi alle regole, spiegabili e verificabili.
La difesa aperta funziona solo se può essere implementata nell'ambito di una governance, in produzione e sui dati che un'azienda non può permettersi di spostare. Questa superficie di deployment è ciò che Cloudera porta all'Alliance.
Mentre le autorità di regolamentazione affrontano le questioni legate alla sicurezza dell'AI, è fondamentale che i modelli aperti, gli harness e gli strumenti di sicurezza siano riconosciuti come risorse difensive, non come passività. Restrizioni generalizzate sui sistemi di frontiera aperti indebolirebbero la capacità difensiva e concentrerebbero la dipendenza in pochi fornitori chiusi—l'opposto della resilienza.
Il percorso più sicuro è quello che consente a un numero maggiore di difensori di testare, verificare e rafforzare i sistemi su cui fa affidamento la società, insieme a solide misure di salvaguardia, regole chiare contro gli usi impropri e interventi correttivi rapidi.
L'apertura da sola non garantisce la fiducia. Occorrono comunque test rigorosi, un'infrastruttura sicura, una governance chiara e la supervisione umana. Ma un ecosistema aperto è ciò che amplia la comunità di difensori in grado di svolgere questo lavoro.
Cloudera è impegnata a collaborare con NVIDIA e i nostri partner per costruire quel futuro, in cui l’AI sia potente, aperta, governata e sicura fin dalla progettazione. Invitiamo le aziende, i governi e i ricercatori a unirsi a noi.
This may have been caused by one of the following: