Dall'ascesa di internet all'esplosione del cloud computing, tutte le principali ere tecnologiche hanno rimodellato il modo in cui utilizziamo e creiamo i dati. Ora, secondo Sergio Gago, chief technology officer di Cloudera, stiamo entrando in una terza fase di big data focalizzata sulla convergenza.
Recentemente si è unito al podcast The AI Forecast per discutere di come la convergenza tra sistemi cloud e on premise stia preparando il terreno per una nuova generazione di AI privata, dove le aziende possono controllare completamente i propri dati, modelli e cicli di vita dell'AI.
Ecco i punti chiave emersi dalla conversazione.
La convergenza di cloud e on premise e perché consente l'AI privata
Paul: Parliamo della sua visione. Cosa significa per lei la terza ondata di big data e perché è così importante?
Sergio: Abbiamo iniziato con l'era del controllo. Molte aziende avevano i propri data center che garantivano loro il controllo dei propri dati. Poi è arrivato il cloud e siamo entrati in quella che chiamiamo l'era della convenienza. Quindi, c'erano team con una carta di credito che potevano entrare in qualsiasi hyperscaler e iniziare a giocare con i dati per l'apprendimento automatico o per costruire dashboard. Era così facile che ha portato l'IT ombra in molte aziende, il che ha reso il controllo dei costi, il TCO e la governance dei dati sfide crescenti.
Questa era la storia del cloud e dei dati. Oggi, ci sono centinaia di motori, database e opzioni dietro ogni cespuglio. Ora parliamo di architetture Frankenstein, dove le aziende hanno dozzine (se non centinaia) di componenti e faticano a unirli. L'era della convenienza ha portato questa complessità.
Ora facciamo un salto avanti con l'avvento dell'AI e degli agenti AI e con i requisiti normativi e di conformità per molte aziende e startup. Per adeguarsi, le organizzazioni devono ripristinare tutti i controlli della prima era, soprattutto nelle grandi aziende. Tutto ciò costringe le aziende e i privati a convergere e a gestire entrambi i mondi, il data center e il cloud, per avere il controllo e la governance del data center con la comodità del cloud. Ecco perché chiamiamo la terza ondata, l'era della convergenza.
IA privata: controllo completo del ciclo di vita e vantaggio umano
Paul: Volevo parlare con te della componente privata dell'AI. Grazie ai dati privati, ho un enorme vantaggio competitivo. In che modo l'AI privata può sfruttare tutto ciò?
Sergio: L'IA privata è la capacità di controllare l'intero ciclo di vita delle tue applicazioni di AI. Quali modelli utilizzi? Come li distribuisci? Quali sono approvati dal punto di vista della conformità? Come fai a garantire che i pesi dei modelli rimangano costanti per tutto il tempo necessario? Poi ci sono i dati della tua azienda che risiedono sia nel cloud sia nel data center. Deve inserire in modo sicuro questi dati nel suo modello, sia per l'addestramento, sia per la messa a punto, sia per altre tecniche come il RAG. Ecco cosa rende il tuo modello unico.
Il vantaggio competitivo della maggior parte delle aziende oggi sono i dati, ma anche le competenze, la capacità umana di generare informazioni. Non sono necessariamente i dati in sé, ma l'esperienza e la conoscenza del settore che ti permettono di interpretarli. L'AI privata ti aiuta a preservare questo vantaggio controllando tutto, dal ciclo di vita del modello alla gestione dei prompt, al lineage e al benchmarking, così da poter passare dalla prova di concetto ai veri carichi di lavoro di produzione.
Costruire in base al ROI e al rischio, con agenti, governance e cultura integrati
Paul: Quando parliamo di argomenti come la convergenza, a volte rischiamo di alienare gli imprenditori che vedranno questa discussione più come una discussione da CTO, una discussione tecnica. Dal suo punto di vista, cosa fa la convergenza per sbloccare nuovi casi d'uso o valore aziendale che non poteva ottenere prima come CEO o leader aziendale?
Sergio: Penso che il CEO vorrà sempre capire il valore reale di uno strumento, sia in termini di ROI, riduzione dei costi o miglioramento del valore per l'azienda. La GenAI è solo il nastro trasportatore per tutte queste cose.
Allo stesso tempo, il secondo aspetto che ogni CEO tiene ben presente è il rischio, sia per paura di perdersi un'opportunità sia per timore di diventare la prossima azienda sui titoli dei giornali a causa di una massiccia allucinazione dell'AI. Questi sono i due piatti della bilancia con cui lavorano i CEO.
I casi d'uso di GenAI devono partire dal lato aziendale. Coinvolgi la conformità, la governance, l'IT, la cybersecurity e il reparto legale fin dall'inizio in modo che non diventi un esperimento che non porta da nessuna parte. Dimostrare valore in questi termini le permette di portarlo all'impresa.
Segui la conversazione completa con Sergio Gago su The AI Forecast su Spotify, Apple Podcasts e YouTube.
