Mosaic AI Agent Framework
Crea app di generazione potenziata dal recupero (RAG) di qualità da produzione
La Retrieval augmented generation (Generazione potenziata dal recupero, RAG) è un modello applicativo di AI generativa che trova dati e/o documenti rilevanti per una domanda o un task e li fornisce come contesto al modello linguistico di grandi dimensioni (LLM), così che questo possa restituire risposte più accurate.
Mosaic AI Agent Framework è una suite di strumenti progettata per aiutare gli sviluppatori a creare e distribuire applicazioni di AI generativa di alta qualità utilizzando la RAG per ottenere un output sistematicamente misurato e valutato in modo da essere accurato, sicuro e gestito. Mosaic AI Agent Framework consente agli sviluppatori di valutare facilmente la qualità delle applicazioni RAG, di iterare rapidamente grazie alla possibilità di testare le ipotesi, di ridistribuire facilmente le applicazioni e di disporre della governance e delle misure di sicurezza appropriate per garantire una qualità costante.
Massima qualità di produzione
Mosaic AI Agent Framework aiuta le organizzazioni a distribuire applicazioni di GenAI di qualità, consentendo di ottenere un output costantemente misurato e valutato in modo da essere accurato, sicuro e gestito. Mosaic AI Agent Framework integra una funzionalità proprietaria di valutazione assistita dall'AI in grado di determinare automaticamente la qualità degli output e un'interfaccia utente intuitiva per raccogliere feedback dagli stakeholder umani.
Iterazione rapida dello sviluppo
Mosaic AI Agent Framework consente agli sviluppatori di raccogliere facilmente feedback sull'applicazione di GenAI e di iterare rapidamente modifiche per testare ogni ipotesi. Gli sviluppatori possono quindi ridistribuire la loro applicazione in produzione senza apportare modifiche al codice, utilizzando un flusso di lavoro LLMOps end-to-end. Inoltre, possono iterare tutti gli aspetti del processo RAG: preparazione dei dati, database vettoriali e implementazione del modello, fino a monitoraggio, sicurezza e governance.
Governance e barriere
Mosaic AI Agent Framework è perfettamente integrato con gli altri componenti della Databricks Data Intelligence Platform. Ciò significa che hai tutto ciò che ti serve per implementare un sistema RAG end-to-end: sicurezza e governance, integrazione dei dati, database vettoriali, valutazione della qualità e implementazione ottimizzata con un clic. L'integrazione di funzionalità di governance e sicurezza ti consente inoltre di prevenire risposte fuorvianti e di assicurarti che l'applicazione sia conforme alle policy della tua organizzazione.
Pipeline automatizzata in tempo reale per qualsiasi tipo di dati
Mosaic AI supporta nativamente il serving e l'indicizzazione dei dati per il recupero online. Nel caso di dati non strutturati (testo, immagini e video), Vector Search indicizza e serve automaticamente i dati, rendendoli accessibili alle applicazioni RAG senza dover creare pipeline di dati separate. Dietro le quinte, Vector Search gestisce errori e nuovi tentativi e ottimizza le dimensioni dei batch per offrirti il meglio in termini di prestazioni, produttività e costi. Per i dati strutturati, Feature and Function Serving fornisce con tempi di risposta nell'ordine dei millisecondi query su quei dati contestuali, ad esempio dati dell'utente o dell'account, che le aziende spesso vogliono inserire nei prompt per personalizzarli in base alle informazioni dell'utente.