L'IA generativa sta cambiando il modo in cui lavorano le organizzazioni, ma distribuire i modelli è solo l'inizio. Man mano che le aziende passano dalla sperimentazione all'esecuzione, hanno bisogno di un'AI che prenda decisioni in modo coerente e in linea con il modo in cui l'azienda opera realmente.
In un nuovo episodio di The AI Forecast, "Logica decisionale: il livello mancante nell'AI aziendale," Darlene Newman, responsabile dell'innovazione presso Duczer East, si unisce al conduttore Paul Muller per spiegare perché l'AI aziendale ha bisogno di più di dati e prompt per fornire risultati affidabili. Attingendo alla sua esperienza alla guida di iniziative di AI e trasformazione digitale, Newman spiega perché le organizzazioni devono acquisire le conoscenze decisionali che i dipendenti applicano ogni giorno e renderle accessibili all'AI.
Continui a leggere per scoprire perché la logica decisionale potrebbe diventare un elemento fondante dell'AI aziendale.
Che cos'è la logica decisionale?
Paul: Parliamo della logica decisionale. Quando ho visto per la prima volta l'argomento, ho avuto uno di quei momenti in cui viene voglia di annuire e fingere di aver capito. Anche dopo una rapida occhiata, ho capito di non avere idea di cosa significasse la logica decisionale come disciplina. Quindi, potrebbe darmi una mano? Che cos'è e perché dovrebbe interessarmi?
Darlene: Un LLM genera output straordinari, ma esegue un pattern matching sul testo su cui è stato addestrato da Internet. Non è vera intelligenza, ma cambierà il modo in cui lavoriamo giorno per giorno. Affinché sappia e abbia senso, bisogna aiutarlo a comprendere.
Ho dedicato molto tempo alla gestione dei contratti e penso che sia un caso d’uso straordinario per gli LLM. Se chiedo se un contratto prevede una clausola di rinnovo automatico, espressioni come può essere rinnovato, sarà rinnovato, rinnovo automatico o rinnovo tacito potrebbero significare tutte la stessa cosa. Quando qualcuno dice, "Questo è un contratto con rinnovo automatico," la domanda diventa: "Come fai a saperlo?"
È questo che intendo per logica decisionale. È il motivo alla base di ciò che fai, la conoscenza condivisa che le persone applicano istintivamente ogni giorno. Bisogna insegnare questa conoscenza all’LLM. Altrimenti prenderà una decisione per conto proprio, e potrebbe non essere quella giusta.
Il “bibliotecario” dietro l'IA aziendale
Paul: Quello che sto capendo è che la logica decisionale ci offre un modo per acquisire parte di quella conoscenza condivisa e integrarla nel sistema per casi d’uso definiti, riducendo la necessità di un intervento umano costante. Quindi, di quali talenti o competenze hanno bisogno le organizzazioni per sviluppare questa capacità?
Darlene: Lo paragono a un bibliotecario, qualcuno che organizza le informazioni. Dico sempre che servono due competenze chiave per realizzare un agente: comprendere il processo aziendale e comprendere i dati. Mettendo insieme queste competenze, si ottiene una persona in grado di occuparsi della progettazione della conoscenza. Non sono ingegneri in senso stretto, ma chi progetta il livello di conoscenza deve capire come sono strutturati i dati e come funziona davvero l'azienda. Servono comunque persone con competenze tecniche per implementare l'agente, ma la progettazione della conoscenza è davvero una combinazione di competenze aziendali e comprensione dei dati.
Penso che spesso accada che, se chi progetta questo ha una formazione esclusivamente tecnica, strutturi il proprio vocabolario in base a ciò che è già presente nel sistema. La gente dirà: "Abbiamo Collibra. Abbiamo definizioni dei dati per tutti i nostri campi e abbiamo mappato il lineage." La mia risposta è: "Questo non è un vocabolario controllato."
Avere definizioni dei campi è ottimo, ma la vera domanda è: cosa significa davvero il concetto? Una definizione da sola non indica come dovrebbe essere interpretata né come un'IA dovrebbe identificarla. Bisogna fare un passo in più. Non si vuole che i concetti e la comprensione si limitino semplicemente a rispecchiare ciò che è presente in un modello di dati relazionale. Questo è il rischio di adottare un approccio eccessivamente tecnico quando si definisce il livello semantico.
Integra la logica decisionale nell'AI fin dal primo giorno
Paul: Concludiamo con un piccolo invito all’azione. Per chi, come me, potrebbe sentire il termine logica decisionale e limitarsi ad annuire, che cosa dovremmo fare concretamente al riguardo? È un aspetto su cui i consigli di amministrazione e i dirigenti dovrebbero riflettere? E in quale fase di un progetto di AI dovrebbe entrare nella discussione la logica decisionale?
Darlene: Si inizia a pensare alla logica decisionale all’inizio del progetto, quando si progetta l’agente. Con gli agenti, non è più possibile cavarsela con requisiti minimi. Ogni attività può presentare casi limite, quindi è necessario decidere se l’agente li gestirà o li passerà a una persona.
Dico sempre alle persone di partire dal flusso di processo. Non cercare di progettare l’intero processo attorno all’agente. Piuttosto, individua le attività critiche in quel processo. Traccia il lavoro che svolgi oggi e dì: "Ecco tutte le attività che svolgiamo in questo flusso. Quali sono quelle più sensate da fare? " E a quel punto, quali sono i test? Qual è l'input? Qual è l'output e come si prende una decisione in base a quell'output? E inizi a documentare come lo fai.
La sfida è che i consigli di amministrazione non sono ancora in grado di comprendere facilmente i livelli semantici né di finanziarli. I consigli di amministrazione comprendono facilmente i data lake e le API, ma i livelli semantici non sono ancora altrettanto comprensibili.
Con alcuni clienti, abbiamo dovuto dimostrare il valore. Abbiamo iniziato con un singolo agente e l’output era scarso. Abbiamo creato un semplice vocabolario controllato a cui l’agente potesse fare riferimento, e i risultati sono migliorati. Man mano che aggiungevamo altre regole e definizioni, stavamo essenzialmente costruendo un livello semantico di base. Oggi lo stiamo formalizzando attraverso il knowledge design e gli standard aperti, ma all’epoca abbiamo dovuto crearlo dietro le quinte perché le organizzazioni non lo richiedevano. È un concetto difficile perché le persone non pensano naturalmente in questo modo. Ho notato che è più facile mostrare come si presenta un knowledge graph piuttosto che spiegarlo.
Segui la conversazione completa con Darlene Newman su The AI Forecast su Spotify, Apple Podcasts e YouTube.
