10 gennaio 2025

All’interno di OCI, Oracle ha integrato due servizi specializzati nell’utilizzo dei LLMs: un servizio generico di Generative AI, che consente agli utenti di sfruttare i LLMs di Cohere e Meta tramite un’interfaccia grafica o programmaticamente via API, e un servizio di Generative AI Agents, che permette la creazione di un agente dedicato in grado di eseguire una pipeline RAG (Retrieval-Augmented Generation).

Il servizio di Generative AI in OCI si colloca in linea con gli altri provider cloud: le sue principali peculiarità includono la disponibilità dei modelli di Cohere e la possibilità di creare cluster dedicati per operazioni di fine tuning dei LLMs (per use case più avanzati). Confrontato con uno dei principali competitor (Azure OpenAI), è da segnalare l’impossibilità di fornire fonti dati addizionali a supporto della conversazione con gli utenti (e.g. tramite upload di file, OCI Storage o siti web).

La qualità dei modelli di Cohere e di Meta, invece, resta assolutamente valida.

Da un punto di vista più tecnico, si tratta di un servizio che consente la realizzazione di una pipeline RAG con un approccio low-code: un LLM viene configurato per interpretare le domande degli utenti e per rispondere alle loro richieste basandosi su fonti di dati preconfigurate (e.g. documenti caricati su Object Storage). Questo servizio può essere molto utile, ad esempio, per realizzare rapidamente dei chatbot in grado di utilizzare le capacità di un LLM nel contesto di fonti dati proprietarie.

Una mossa particolarmente strategica da parte di Oracle è stata l’inclusione di features basate sulla Generative AI anche all’interno del mondo dell’ERP. Il servizio Oracle AI for Fusion Applications[6] integra all’interno di diversi moduli di Oracle Fusion (ERP, HCM, SCM, Sales, Service e Marketing) alcune funzionalità basate sulla Generative AI. Sfruttando le risorse di OCI, in aggiunta ai servizi AI già esistenti e basati su modelli predittivi tradizionali, Oracle ha integrato funzionalità che sfruttano la Generative AI sia come tecnologia standalone sia come motore di agenti AI specializzati.

Tasks tipiche in cui la Generative AI è in grado di aiutare gli utenti coinvolgono l’interpretazione e la generazione di testo (e.g. la generazione di un riassunto di un purchase order, la creazione di una performance review, la generazione di item descriptions, etc.). Similmente, servizi integrati in Oracle Fusion basati su Generative AI Agents possono svolgere tasks più elaborate ed interagire con gli utenti (e.g. assistenti per l’onboarding di neoassunti, advisor di Operational Procedures, agent per Campaign Planning, etc.)

Conclusione

In sintesi, i servizi di Generative AI offerti da Oracle non solo competono con le soluzioni di altri provider cloud, ma offrono anche vantaggi distintivi all’interno dell’ecosistema Oracle. L’integrazione di queste soluzioni all’interno di OCI e delle applicazioni Oracle Fusion rappresenta una mossa strategica che permette agli utenti di sfruttare le potenzialità dei LLMs per migliorare l’efficienza operativa e l’esperienza utente.

References