Cloudera utilizzerà NVIDIA AI Enterprise, con i microservizi NVIDIA NIM, per liberare il potenziale di 25 exabyte di dati aziendali protetti in Cloudera Data Platform
SANTA CLARA, CA, 19 marzo 2024 – Cloudera, la data company per l’enterprise AI affidabile, ha esteso la sua collaborazione con NVIDIA con l’annuncio di Cloudera Powered by NVIDIA. Il nuovo servizio integrerà i microservizi NVIDIA NIM di livello enterprise, parte della piattaforma software NVIDIA AI Enterprise, in Cloudera Machine Learning, un servizio di Cloudera Data Platform per i workflow AI/ML, per offrire workflow AI generativi end-to-end veloci, sicuri e semplificati in produzione.
Combinati con una piattaforma full-stack completa e ottimizzata per i modelli linguistici di grandi dimensioni (LLM), i dati aziendali, svolgono un ruolo cruciale per l’evoluzione delle applicazioni di IA generativa di un’organizzazione, dalla fase pilota alla produzione. I microservizi NVIDIA NIM e NeMo Retriever consentono agli sviluppatori di collegare i modelli di IA ai loro dati aziendali - inclusi testo, immagini e grafici - per generare risposte particolarmente accurate e rilevanti per il contesto di applicazione. Gli sviluppatori che utilizzano questi microservizi possono distribuire le applicazioni tramite NVIDIA AI Enterprise, che fornisce runtime ottimizzati per la creazione, la personalizzazione e la distribuzione di LLM di livello enterprise. Sfruttando i microservizi NVIDIA, Cloudera Machine Learning consentirà ai clienti di liberare il valore dei loro dati aziendali sotto la gestione di Cloudera, portando i workflow AI ad alte prestazioni, il software della piattaforma AI e l’elaborazione accelerata ai dati, ovunque essi risiedano.
Cloudera introdurrà diverse integrazioni con i microservizi NVIDIA. In particolare, Cloudera Machine Learning integrerà il servizio di modelli e applicazioni basato sui microservizi NVIDIA per aumentare le prestazioni di inferenza dei modelli su tutti i carichi di lavoro. Grazie a questa nuova funzionalità di model-serving dell’AI, i clienti possono ottenere fault-tolerance, servizio a bassa latenza e auto-scaling per i modelli distribuiti ovunque, su cloud pubblici e privati. Inoltre, Cloudera Machine Learning offrirà microservizi NVIDIA NeMo Retriever integrati per semplificare la connessione di LLM personalizzati ai dati aziendali. Questa capacità consentirà agli utenti di creare applicazioni basate sulla retrieval-augmented generation (RAG) per l’utilizzo in produzione.
Cloudera ha già collaborato con NVIDIA per sfruttare l’elaborazione dei dati ottimizzata dalle GPU grazie all’integrazione di NVIDIA RAPIDS Accelerator per Apache Spark nella Cloudera Data Platform. Ora, con la prevista aggiunta dei microservizi NVIDIA e l’integrazione con NVIDIA AI Enterprise, Cloudera Data Platform sarà in grado di offrire pipeline di AI ibride e semplificate end-to-end.
In futuro, le organizzazioni di tutti i settori avranno la possibilità di costruire, personalizzare e distribuire in modo più rapido e intuitivo gli LLM che sono alla base della trasformazione guidata dall’IA generativa. Ciò include applicazioni come: co-pilot di codifica per accelerare i tempi di sviluppo; chatbot per automatizzare le interazioni nel servizio ai clienti; app di sintesi del testo per elaborare rapidamente i documenti; ricerca ottimizzata e contestuale e molto altro ancora. Queste innovazioni massimizzano il valore time-to-business rendendo i dati e i processi avanzati di IA più semplici e veloci in tutta l’azienda, stimolando la creazione di nuove opportunità di business e conseguenti ricavi, ottimizzando in parallelo i costi.
“Integrando i microservizi NVIDIA NIM e CUDA-X per potenziare Cloudera Machine Learning, Cloudera aiuta i clienti a trasformare l’IA in realtà per la propria azienda”, ha dichiarato Priyank Patel, Vice President of AI/ML Products di Cloudera. “Oltre a offrire ai clienti potenti funzionalità di AI e alte prestazioni, questa integrazione consentirà alle aziende di prendere decisioni più accurate e tempestive, riducendo al contempo imprecisioni, allucinazioni ed errori di previsione - tutti fattori critici per navigare nell’attuale panorama dei dati.”
“Le aziende sono alla frenetica ricerca di modi per sfruttare i loro enormi volumi di dati con l’IA generativa, con l’obiettivo di costruire co-pilot e strumenti di produttività personalizzati”, ha aggiunto Justin Boitano, Vice President of Enterprise Products di NVIDIA. “L’integrazione dei microservizi NVIDIA NIM nella Cloudera Data Platform offre agli sviluppatori un modo più semplice e flessibile per implementare gli LLM e alimentare la trasformazione del business”.
*****
N.B.: Alcune affermazioni contenute nel presente comunicato stampa, ad inclusione ma non solo, delle funzionalità e delle integrazioni sono affermazioni soggette a rischi e incertezze che possono avere esiti effettivi materialmente differenti dalle aspettative. Tra i fattori importanti che potrebbero causare differenze sostanziali nei risultati effettivi vi sono: le condizioni economiche globali; la nostra dipendenza da terzi nella nostra catena di fornitura; l'impatto dello sviluppo tecnologico e della concorrenza; lo sviluppo di nuovi prodotti e tecnologie o il miglioramento dei prodotti e delle tecnologie esistenti; l'accettazione da parte del mercato dei nostri prodotti o di quelli dei nostri partner; i difetti di progettazione, produzione o software; i cambiamenti nelle preferenze o nelle richieste dei consumatori; i cambiamenti negli standard e nelle interfacce del settore; la perdita imprevista di prestazioni dei nostri prodotti o delle nostre tecnologie quando sono integrati nei sistemi. Queste dichiarazioni previsionali non sono garanzie di prestazioni future e si riferiscono solo alla data del presente documento e, ad eccezione di quanto richiesto dalla legge, Cloudera declina qualsiasi obbligo di aggiornare queste dichiarazioni previsionali per riflettere eventi o circostanze future.
Cloudera
In Cloudera crediamo che i dati possano rendere ciò che è impossibile oggi, possibile domani. Diamo alle persone la possibilità di trasformare i dati da qualsiasi fonte in AI affidabile di livello enterprise, in modo da ridurre costi e rischi, aumentare la produttività e accelerare le performance aziendali. Il nostro open data lakehouse consente di gestire i dati in maniera sicura e abilita una data analytics cloud-native portabile: le organizzazioni possono ora gestire e analizzare dati di tutti i tipi, su qualsiasi cloud, pubblico o privato. Con un volume di dati gestiti pari a quello degli hyperscaler, siamo il partner preferito delle principali aziende di quasi tutti i settori. Cloudera ha contribuito a far scoprire il valore e le potenzialità dei dati in tutto il mondo e continua a guidare un vivace ecosistema alimentato dall’incessante innovazione della comunità open source.
Ulteriori informazioni su https://it.cloudera.com/