Cloudera e NVIDIA consentono alle organizzazioni di ottimizzare le pipeline di dati complesse su larga scala combinando le capacità di gestione dei dati di Cloudera con i servizi full-stack di NVIDIA:
L'elaborazione dei dati Apache Spark su Cloudera e NVIDIA RAPIDS Accelerator per Apache Spark semplifica l'esecuzione di carichi di lavoro di feature engineering e data engineering.
La distribuzione dei modelli AI/ML con Cloudera AI Inference e i microservizi NVIDIA NIM migliora le prestazioni di throughput e latenza dei modelli di intelligenza artificiale (AI), sia di AI/ML tradizionale che di AI generativa.
L'orchestrazione di Agentic AI con NVIDIA AI-Q Blueprint consente l'integrazione degli agenti AI con dati privati e l'interazione con altri sistemi tramite API.
Figura 1: Cloudera e NVIDIA offrono valore lungo l'intero ciclo di vita di data science.
In questo blog, metteremo in evidenza tre casi d'uso che dimostrano come, insieme, Cloudera e NVIDIA forniscano valore con l'analisi e l'AI per gli istituti di servizi finanziari.
Acceleratore NVIDIA RAPIDS per Apache Spark per la conformità AML/KYC
Il ciclo di vita della conformità antiriciclaggio e know your customer (AML/KYC) nelle grandi organizzazioni finanziarie è un processo ad alta intensità di elaborazione. Questo è dovuto alla necessità di integrare e standardizzare grandi volumi di dati attraverso varie attività, come:
Risoluzione delle entità, che richiede la standardizzazione dei dati internazionali soggetti a diversi processi di autorizzazione dei dati e provenienti da un'ampia gamma di sistemi transazionali ed entità esterne (come transazioni con carta di credito, bonifici bancari e messaggi SWIFT).
Consolidamento dei dati da più sistemi AML/KYC che memorizzano le informazioni in formati diversi, i quali devono essere normalizzati in uno schema unificato e strutturati in prodotti di dati (come i data mart AML inter-unità aziendali).
Il monitoraggio continuo delle transazioni e la reportistica normativa che richiedono l'elaborazione, l'arricchimento e l'applicazione di regole sui dati.
Per molti clienti di Cloudera che hanno implementato casi d'uso AML/KYC, Apache Spark svolge un ruolo fondamentale nell'abilitare questi carichi di lavoro di analisi. Apache Spark è un potente motore di data engineering che offre funzionalità come il calcolo in memoria e l'elaborazione distribuita. Tuttavia, l'incremento dei volumi delle transazioni e la crescente varietà di nuove fonti di dati per la conformità AML/KYC pongono ulteriore pressione sull'infrastruttura di calcolo esistente, richiedendo prestazioni ancora più elevate.
La libreria NVIDIA RAPIDS per Apache Spark trasferisce specifiche operazioni di elaborazione dei dati dalla CPU alla GPU in modo trasparente, cioè senza alcuna modifica al codice. Di conseguenza, i clienti di Cloudera hanno sperimentato miglioramenti delle prestazioni fino a 20 volte utilizzando la libreria NVIDIA RAPIDS per i carichi di lavoro di Apache Spark 3.0.
Microservizi NVIDIA NIM per la prevenzione delle frodi nei pagamenti
Due delle più grandi sfide nella prevenzione delle frodi sono l'esplosione dei volumi di transazioni nei pagamenti digitali e con carta di credito e la crescente complessità delle tecniche di frode. Questi fattori hanno portato a contese di risorse e sfide di scalabilità per l'inferenza AI/ML, rendendo necessaria l'implementazione di più modelli AI/ML componibili per affrontare i metodi di frode emergenti.
Per affrontare queste sfide, il servizio Cloudera AI Inference include NVIDIA NIM, progettati per fornire inferenze ad alte prestazioni, bassa latenza e alto rendimento per i modelli di AI per la prevenzione delle frodi su elaborazione accelerata NVIDIA. Ad esempio, utilizzando NVIDIA NIM, il servizio Cloudera AI Inference può fornire un miglioramento delle prestazioni fino a 6 volte per i modelli PyTorch (utilizzando la libreria Torch-TensorRT) e un miglioramento di 2,5 volte per i modelli TensorFlow (utilizzando la libreria TF-TensorRT), entrambi ampiamente impiegati nella prevenzione delle frodi nei pagamenti.
Inoltre, il servizio Cloudera AI Inference accelera le richieste di inferenza eseguite su NVIDIA accelerated computing sfruttando la funzionalità di batching dinamico di NVIDIA. Questa funzionalità consente di combinare le richieste di inferenza lato server, evitando l'inefficienza dell'elaborazione di una richiesta alla volta, che lascia inattiva gran parte della GPU. Di conseguenza, il servizio Cloudera AI Inference con NVIDIA NIM migliora l'utilizzo della GPU, riducendo le future spese in conto capitale per soddisfare le crescenti richieste di prevenzione delle frodi.
Blueprint NVIDIA AI-Q per l'origination dei prestiti nel retail banking
La concessione del credito è una capacità importante nel settore bancario, che copre molte attività di prestito diverse come mutui, prestiti con carte di credito, banche commerciali e finanza commerciale. Questi processi sono stati storicamente inefficienti, dato il numero di attività coinvolte nel processo di origine, dalla presentazione della domanda al finanziamento, e i numerosi ruoli che partecipano al processo decisionale.
Sebbene i modelli tradizionali di AI/ML possano semplificare molte attività individuali nel flusso di lavoro di erogazione del prestito, il processo dal punto di vista del cliente appare ancora lento e frammentato. È qui che l'agentic AI può avere un impatto significativo: in questo contesto, può infatti ridurre lo sforzo necessario per raccogliere, riassumere le informazioni e redigere decisioni di credito. Inoltre, può fornire un'esperienza di prestito personalizzata e coerente standardizzando le revisioni durante il processo di approvazione. È anche in grado di fornire raccomandazioni personalizzate sui prodotti in base ai comportamenti e ai modelli di spesa del cliente, con un flusso di lavoro multi-agente che orchestra vari strumenti, dati e agenti AI.
Sfruttando NVIDIA AI-Q Blueprint sull'elaborazione accelerata di NVIDIA con il servizio Cloudera AI Inference, le organizzazioni bancarie possono realizzare questa visione trasformativa. Ad esempio, utilizzando AI-Q Blueprint, Cloudera può orchestrare un flusso di lavoro multi-agente che include un consulente di prestito personalizzato basato su GenAI distribuito su NVIDIA NIM, un agente di elaborazione documentale basato sull'AI che sfrutta tecniche di riconoscimento ottico dei caratteri (OCR) e di elaborazione del linguaggio naturale (NLP), e gli strumenti decisionali di credito esistenti.
Passi successivi
La potenza combinata della piattaforma dati unificata e cloud-anywhere di Cloudera e delle capacità hardware e software di NVIDIA offre una soluzione olistica per lo sviluppo di soluzioni di agentic AI.
Visita questa pagina per saperne di più sul servizio Cloudera AI Inference.
Leggi questo whitepaper di Enterprise Strategy Group per conoscere la proposta di valore congiunta di Cloudera + NVIDIA.
