L'AI si sta facendo strada nelle attività operative quotidiane delle aziende, ma i carichi di lavoro che la alimentano raramente rimangono in un unico luogo. Alcuni devono rimanere vicini ai dati sensibili in ambienti privati. Altri traggono vantaggio dall'ampia copertura del cloud pubblico o dalla velocità dell'infrastruttura edge.
Questo solleva una domanda pratica: come possono le organizzazioni eseguire ogni carico di lavoro dove offre le prestazioni migliori, mantenendo sotto controllo i dati e le operazioni?
Cloudera e AMD affrontano questa questione riunendo una piattaforma dati ibrida e un’infrastruttura scalabile e accessibile. Il risultato è una base progettata per supportare l’AI in ambienti privati, cloud ed edge senza costringere i team a gestirli in modo diverso.
Modelli diversi trovano posto in luoghi diversi
Con la crescita dell'adozione, le decisioni relative alla distribuzione assumono un peso strategico maggiore. La posizione migliore per un'applicazione dipende dai dati che utilizza e dall'esperienza che deve offrire.
Un modello che utilizza informazioni sensibili dei clienti potrebbe dover essere eseguito in un ambiente privato, oppure un’applicazione rivolta ai clienti potrebbe trarre vantaggio dall’elasticità del cloud. La possibilità di effettuare questa scelta per ciascun carico di lavoro offre alle aziende un maggiore controllo sulle prestazioni, senza vincolare tutte le applicazioni allo stesso modello di distribuzione.
Questa flessibilità diventa sempre più importante man mano che i portafogli di AI si ampliano. Ciò che funziona per una proof of concept iniziale potrebbe essere poco adatto a un'applicazione in produzione al servizio di migliaia di utenti. Un'architettura che supporta più ambienti offre ai team il margine per adeguare il posizionamento al variare dei modelli di utilizzo e dei requisiti aziendali.
Perché l'AI privata ibrida sta diventando una scelta strategica
Scegliere dove viene eseguito un carico di lavoro è solo una parte dell'equazione. I team hanno comunque bisogno di un modo coerente per distribuirlo e gestirne la governance nell'intero ecosistema tecnologico.
La governance dei dati e i requisiti normativi influenzano le decisioni relative al posizionamento, ma le operazioni possono diventare rapidamente eccessivamente complesse quando ogni sede introduce un modo di lavorare distinto. L'AI privata ibrida offre alle organizzazioni un framework condiviso per eseguire carichi di lavoro vicino ai dati su cui fanno affidamento, mantenendo al contempo il controllo sull'intero ambiente.
Può anche ridurre l'onere di trasferire grandi volumi di dati proprietari tra sistemi. Mantenere l'infrastruttura di calcolo più vicina ai dati può ridurre i costi di trasferimento e semplificare le operazioni, aiutando al contempo le organizzazioni a ottenere più valore dall'infrastruttura che già possiedono.
Questo approccio offre ai team maggiore libertà di prendere decisioni di posizionamento basate sull'applicazione stessa, anziché sui limiti di un'architettura frammentata. Possono mantenere il controllo locale laddove è importante, continuando al contempo a sfruttare le risorse cloud quando lo richiedono la scalabilità o la disponibilità.
Il calcolo è solo una parte dello stack
Il calcolo ad alte prestazioni offre ai modelli la potenza per addestrarsi e rispondere. Non fornisce loro, di per sé, una comprensione del business.
Quel contesto deriva dai dati aziendali. I modelli devono poter accedere a informazioni pertinenti e governate per produrre risultati che riflettano i clienti, le operazioni e le priorità di un’organizzazione. Senza questo ancoraggio, anche un modello altamente capace potrebbe generare risposte prive della specificità necessaria per un uso aziendale concreto.
Anche l'affidabilità dei flussi di lavoro di produzione è importante. I dati devono essere preparati e recuperati in modo efficiente e le operazioni di inferenza devono mantenere tempi di risposta rapidi all'aumentare della domanda. I team hanno inoltre bisogno di visibilità sul comportamento delle applicazioni dopo la distribuzione, così da poter individuare i problemi di prestazioni e adattarsi al mutare dei requisiti.
Queste funzionalità trasformano un modello promettente in un’applicazione su cui le persone possono fare affidamento durante il lavoro quotidiano. Inoltre, facilitano il superamento dei progetti pilota isolati e favoriscono un’adozione più ampia in tutta l’organizzazione.
Riunire l'AI aziendale
Cloudera e AMD riuniscono elementi distinti di questa base.
Cloudera fornisce la piattaforma per preparare i dati, sviluppare modelli, gestire la governance e supportare le applicazioni fino alla produzione. AMD fornisce la base di calcolo end-to-end che opera lungo l'intero ciclo di vita, dall'elaborazione e dal recupero dei dati fino all'inferenza dei modelli.
Questo offre alle organizzazioni maggiore libertà nella scelta di come allocare le risorse. Le applicazioni basate su modelli di piccole e medie dimensioni, come i chatbot o i sistemi di retrieval-augmented generation, possono essere eseguite in modo efficiente su infrastrutture basate su CPU. I carichi di lavoro più impegnativi possono utilizzare il calcolo accelerato quando i requisiti prestazionali lo giustificano.
Questa distinzione è importante perché non tutte le applicazioni richiedono lo stesso livello di potenza di elaborazione. Applicare l’infrastruttura che richiede più risorse a ogni carico di lavoro può aumentare i costi senza apportare un corrispondente vantaggio aziendale.
Un approccio basato sui carichi di lavoro consente ai team di selezionare le risorse più adatte al caso d’uso attuale e di adeguarle al variare della domanda. Allo stesso tempo, la gestione dei dati e le operazioni applicative restano collegate tramite una piattaforma coerente, riducendo le interruzioni che possono derivare dal cambiamento dei requisiti infrastrutturali.
Prepararsi a ciò che verrà
Il mix di modelli e carichi di lavoro continuerà a cambiare. Le organizzazioni avranno bisogno della libertà di utilizzare diversi tipi di risorse di calcolo senza dover ricostruire la base dati o il modello operativo sottostante a ciascuna applicazione.
Cloudera e AMD offrono questa flessibilità collegando i dati aziendali a un'infrastruttura in grado di adattarsi a una gamma più ampia di carichi di lavoro.
Scopra come Cloudera e AMD possono aiutarla a sviluppare e scalare l'AI in ambienti ibridi.
Si assicuri di visitare AMD ai prossimi eventi EVOLVE26 in tutto il mondo. Scopra di più.
