Dallo scoring al ragionamento: rendere operativa un'AI affidabile con Cloudera, NVIDIA e Dell Technologies per i servizi finanziari.
L'AI aziendale ha superato una soglia importante negli ultimi due anni. La conversazione non riguarda più se l'AI funzioni o quali modelli valutare; riguarda come portare l'AI in produzione in modo affidabile, eseguirla su larga scala e rispondere di ogni decisione che prende. Le questioni che oggi impegnano i responsabili IT e aziendali sono di natura operativa. Dove dovrebbero essere eseguiti i carichi di lavoro dell'AI, come dovrebbero connettersi ai dati che li rendono utili e come può l'organizzazione mantenere il controllo delle risposte prodotte dall'AI?
Alla base di questo cambiamento operativo ce n’è uno più profondo. Per le società di servizi finanziari che gestiscono il rilevamento delle frodi e il rischio di credito, le prime implementazioni dell’AI si concentravano su previsioni isolate ed esiti binari. I requisiti odierni richiedono sistemi in grado di ragionare su più fonti di dati, spiegare le proprie decisioni e intraprendere azioni coordinate istantanee. Questo passaggio dall’assegnazione di punteggi al ragionamento sta trasformando il modo in cui le organizzazioni affrontano i flussi di lavoro più cruciali.
Questo cambiamento richiede una base diversa. Dati affidabili su cui l'AI possa fare affidamento, un'infrastruttura AI progettata appositamente o fabbriche di AI in grado di fornire inferenza in tempo reale su larga scala e la capacità di mantenere i dati sensibili all'interno di ambienti sovrani e sicuri. Cloudera AI, accelerata da NVIDIA e implementata sull'infrastruttura di Dell Technologies, offre alle aziende una base concreta per questa fase, con il settore dei servizi finanziari come prova concreta di riferimento e una proposta di valore applicabile a qualsiasi organizzazione che porti l'AI dalla fase pilota alla produzione.
Dalla sperimentazione all'operatività
Una ricerca di Enterprise Strategy Group, ora parte di Omdia, indica che il 78% delle organizzazioni del settore dei servizi finanziari considera gli agenti di AI una priorità massima o alta rispetto ad altre iniziative di AI. Questo maggiore rilievo non riguarda solo il settore dei servizi finanziari. In tutti i settori regolamentati, l'AI è passata dai progetti sperimentali a una priorità per i vertici aziendali, con l'attenzione rivolta ai processi aziendali più cruciali. L'antiriciclaggio, la valutazione del merito creditizio, la gestione del rischio e il rilevamento delle frodi rientrano tra i principali casi d'uso, ma lo stesso vale per i settori sanitario, delle telecomunicazioni, pubblico e manifatturiero.
La stessa ricerca fa emergere attriti. Il 51% delle organizzazioni del settore dei servizi finanziari cita preoccupazioni relative alla privacy dei dati e alla gestione delle informazioni sensibili quando utilizza agenti di AI. Il 45% è preoccupato per l'inesattezza del processo decisionale degli agenti di AI. Queste non sono esitazioni nell'adozione riconducibili all'era della sperimentazione. Si tratta di requisiti operativi che qualsiasi sistema di AI in produzione deve soddisfare e le scelte architetturali compiute oggi potranno sostenere o compromettere tali requisiti per anni.
Una nuova architettura: dallo scoring al ragionamento
Il machine learning tradizionale continua a offrire un valore enorme per l'assegnazione di punteggi ad alto volume e ad alta velocità. I modelli addestrati su dati strutturati valutano le transazioni in meno di 50 millisecondi e identificano anomalie su larga scala. Ciò che il machine learning non sa fare bene è spiegarsi. Un punteggio indica a un investigatore che cosa è successo. Non spiega perché e non fornisce a un revisore umano il contesto necessario per prendere una decisione con sicurezza.
L'AI generativa colma questo divario. I modelli linguistici di grandi dimensioni possono elaborare migliaia di pagine di documenti, estrarre segnali pertinenti e generare riepiloghi descrittivi che spiegano situazioni complesse in un linguaggio semplice. Nel caso di una frode, l'AI generativa produce un report d'indagine che contestualizza il motivo per cui una transazione è stata contrassegnata. Per una decisione creditizia, redige una nota preliminare che sintetizza dati finanziari strutturati, market intelligence e analisi non strutturate.
L'Agentic AI orchestra queste capacità in flussi di lavoro coordinati. Anziché chiedere agli analisti umani di raccogliere informazioni da sistemi non connessi tra loro, gli agenti recuperano autonomamente i dati pertinenti, richiamano i modelli appropriati e preparano una valutazione completa, che una persona esamina e sulla base della quale agisce. Il risultato sono decisioni più rapide ed esiti spiegati meglio, mentre la decisione finale resta sotto il controllo umano. Questa è l'architettura che NVIDIA definisce AI Factory per i servizi finanziari: un sistema full-stack, pronto per la produzione, in cui agenti AI governati e ad alto throughput operano nei principali flussi di lavoro finanziari, dal rilevamento delle frodi alla valutazione del merito creditizio, fino alla modellazione del rischio e all'intelligence sui clienti, trasformando i tradizionali data center in ambienti su scala industriale per la produzione di intelligence.
Dove deve stare l'AI: con i dati
La questione operativa più importante per l'AI in ambito aziendale è anche la più semplice: dove dovrebbe essere eseguita l'AI? La risposta è sempre più evidente: l'AI offre il massimo valore aziendale quando opera dove risiedono i tuoi dati, che si tratti di infrastrutture on-premise, cloud o ambienti ibridi. Per gli istituti finanziari, non si tratta di una preferenza architetturale, ma di un imperativo normativo e competitivo. Le banche e i fornitori di servizi di pagamento che addestrano modelli personalizzati, adattati al proprio dominio, utilizzando i propri dati proprietari sulle transazioni, creano un patrimonio di conoscenze che i concorrenti non possono replicare. Cloudera consente di implementare l'AI ovunque risiedano i dati.
Ciò che cambia quando l'AI opera accanto ai dati aziendali è la qualità del contesto. Un punteggio di rischio, considerato isolatamente, è solo un numero. Se invece si basa sull'accesso completo alle transazioni recenti, allo storico del cliente, ai segnali provenienti dai dispositivi e al comportamento del conto, diventa una raccomandazione contestualizzata su cui una persona può agire con sicurezza. È questa profondità di contesto, ovvero la capacità di ricavare segnali predittivi dai set di dati multimodali già in possesso degli istituti finanziari, a distinguere chi sviluppa un patrimonio proprietario di conoscenze basate sull'AI da chi si affida a modelli generici.
Cloudera AI, accelerata da NVIDIA, su Dell Technologies per i servizi finanziari
Cloudera fornisce una base dati affidabile. La piattaforma ibrida di dati e AI di Cloudera unifica dati strutturati e non strutturati in un'architettura lakehouse aperta. Data in Motion di Cloudera acquisisce flussi in tempo reale insieme ai dati storici, mentre Shared Data Experience offre governance e sicurezza coerenti in ambienti on-premise, cloud privato e cloud pubblico. La piattaforma è progettata per mantenere i dati sensibili all'interno della propria giurisdizione, rendendoli comunque disponibili ai sistemi di AI che ne hanno bisogno.
NVIDIA accelera la pipeline di AI attraverso una piattaforma AI Factory full-stack. Le GPU NVIDIA Blackwell riducono i tempi di addestramento del machine learning tradizionale e consentono l'inferenza su larga scala per reti neurali e modelli linguistici. Per la modellazione del rischio, l'accelerazione NVIDIA trasforma simulazioni che prima richiedevano un'intera notte in analisi quasi in tempo reale. Cloudera AI Inference, basato su NVIDIA, consente alle organizzazioni di distribuire e scalare modelli on-premise, con lo stack NVIDIA AI che include NVIDIA Nemotron, la famiglia di modelli aperti e adattabili al dominio di NVIDIA, che le istituzioni possono perfezionare sui propri dati proprietari, NVIDIA Dynamo-Triton Inference Server e NVIDIA AI Enterprise, il sistema operativo della AI Factory, che fornisce microservizi NIM per un’inferenza ottimizzata a bassa latenza e NeMo per creare e perfezionare modelli personalizzati. Il Blueprint NVIDIA AI per il rilevamento delle frodi finanziarie si basa su reti neurali a grafo e sull'esempio per sviluppatori Crea il tuo modello di base per le transazioni. I blueprint sono disponibili presso NVIDIA e offrono alle organizzazioni un punto di partenza concreto per creare applicazioni di AI basate su dati finanziari.
Dell Technologies fornisce l'infrastruttura enterprise che tiene insieme la soluzione. I server Dell PowerEdge configurati con GPU NVIDIA Blackwell offrono la densità di calcolo richiesta dai carichi di lavoro AI più impegnativi, mantenendo al contempo tale capacità di calcolo nello stesso ambiente fisico dei dati sensibili su cui vengono eseguiti i calcoli. Nel suo insieme, questa soluzione può offrire un costo totale di proprietà notevolmente inferiore rispetto all'inferenza equivalente sul cloud pubblico, con un modello economico prevedibile che cresce in funzione dell'utilizzo, anziché ostacolarlo.
Due casi d'uso in azione: rilevamento delle frodi e rischio di credito
I servizi finanziari illustrano il valore di questa architettura. Nel rilevamento delle frodi in tempo reale, Cloudera acquisisce le transazioni insieme alla cronologia delle interazioni con i clienti, ai metadati del dispositivo e ai segnali comportamentali. I modelli di base per le transazioni, soluzioni di AI basate su transformer addestrate su miliardi di eventi finanziari, interpretano il comportamento nel contesto, in cui tempistiche, dispositivo, posizione geografica e attività precedenti concorrono a definirne il significato. Ad esempio, un pagamento a mezzanotte assume un significato diverso quando è il quarto in dieci minuti, effettuato da un dispositivo insolito e in una città in cui il cliente non ha mai eseguito transazioni in precedenza. I modelli di machine learning accelerati da NVIDIA, come Nemotron o i foundation model open source, valutano ogni transazione entro i limiti di latenza richiesti dalle reti di pagamento istantaneo. Quando una transazione viene contrassegnata, un flusso di lavoro basato su agenti su Cloudera AI recupera il contesto pertinente e un modello linguistico genera un fascicolo con una spiegazione in linguaggio naturale dei fattori di rischio. L’investigatore non riceve più un punteggio e un carico di lavoro. Riceve invece un report preliminare d’indagine e una decisione più rapida e meglio supportata.
Anche la valutazione del rischio di credito riflette lo stesso cambiamento. I punteggi delle agenzie di credito e la cronologia strutturata dei pagamenti hanno sempre offerto una visione limitata. Le informazioni non strutturate che potrebbero arricchire una decisione creditizia, tra cui bilanci, analisi di mercato e rassegne stampa, sono state storicamente troppo laboriose da integrare su larga scala. La piattaforma combinata riunisce queste fonti in un Lakehouse governato che utilizza simulazioni Monte Carlo accelerate da NVIDIA e attività di modellazione del rischio, carichi di lavoro che la piattaforma full-stack di NVIDIA esegue a una frazione del costo delle infrastrutture legacy. Sfrutta inoltre l’accelerazione NVIDIA per eseguire simulazioni sofisticate che in precedenza avrebbero allungato i tempi decisionali e produce bozze preliminari di memo creditizi che gli addetti alla concessione di prestiti perfezionano invece di redigere da zero.
La stessa logica si applica alla gestione dei sinistri assicurativi, al supporto decisionale clinico in ambito sanitario, ai rischi della catena di approvvigionamento nel settore manifatturiero e alle attività di intelligence nel settore pubblico. Il caso d'uso varia a seconda del settore. L'architettura no.
Dall'insight al risultato
Le organizzazioni che adottano questo approccio riscontrano una serie coerente di risultati:
Decisioni più rapide sui flussi di lavoro più importanti, con inferenza in meno di 50 millisecondi per l’assegnazione di punteggi in tempo reale e cicli drasticamente ridotti per i carichi di lavoro analitici
Decisioni meglio spiegate, supportate dalla tracciabilità dei dati, dal contesto e dai metadati aziendali, che soddisfano sia le revisioni interne sia il vaglio normativo
Riduzione del costo totale di proprietà rispetto all'inferenza sul cloud pubblico, con un modello economico prevedibile man mano che cresce l'utilizzo
Riduzione del rischio attraverso l’allineamento architetturale ai requisiti di sovranità dei dati, conformità e governance
Questi vantaggi si moltiplicano. La stessa architettura che oggi rende possibile l'AI operativa diventa la base per la prossima generazione di agenti, la prossima serie di casi d'uso e la prossima fase dell'automazione, senza ricostruire il livello sottostante dei dati e della governance.
Il percorso dei servizi finanziari verso l'AI operativa
La prossima fase dell'AI aziendale sarà caratterizzata meno dalle capacità dei modelli e più dal rigore operativo. Le istituzioni che avranno successo saranno quelle capaci di passare da un approccio incentrato sui dati a uno incentrato sull'intelligence, sviluppando soluzioni di AI proprietarie basate sui propri dati, implementandole in ambienti sicuri e sovrani e garantendone una governance con il livello di tracciabilità e verificabilità richiesto dalle autorità di regolamentazione e dai comitati per la gestione del rischio. Cloudera AI, potenziata da NVIDIA e implementata sull'infrastruttura di Dell Technologies, offre alle aziende un percorso concreto per raggiungere questo obiettivo, spostando il dibattito da ciò che l'AI può fare a ciò che fa ogni giorno nei sistemi più critici.
Per saperne di più, scarichi: il brief Omdia Showcase sul rilevamento delle frodi e la valutazione del rischio di credito con Cloudera AI, accelerata da NVIDIA su Dell Technologies e il webinar on-demand di BrightTALK.