In questo talk con Gabriele Tassi, Product Owner di ExperAi, parleremo di Retrieval-Augmented Generation (RAG), cioè il processo di ottimizzazione dell'output di un modello linguistico di grandi dimensioni, in modo che faccia riferimento a una base di conoscenza autorevole al di fuori delle sue fonti di dati di addestramento prima di generare una risposta.
I modelli linguistici di grandi dimensioni (LLM) vengono addestrati su grandi quantità di dati e sono costituiti da miliardi di parametri che sono stati appresi con lo scopo di generare output “originali” in attività come rispondere a domande, tradurre lingue e completare frasi.
La RAG estende le capacità degli LLM (già avanzate) a domini specifici o alla knowledge base interna di un'organizzazione, il tutto senza la necessità di riaddestrare il modello: è un approccio conveniente per migliorare l'output LLM in modo che rimanga pertinente, accurato e utile in vari contesti.
Un approccio ibrido al RAG applicata al question answering sfrutta l'elaborazione simbolica e neurale in diverse fasi della pipeline di elaborazione.
L'analisi simbolica e l'embedding neurale presentano vantaggi e punti di forza diversi che tendono ad essere complementari: combinando queste tecniche si possono aumentare prestazioni e qualità limitando al tempo stesso il costo computazionale complessivo.
Non puoi partecipare? Seguici in diretta sul nostro canale YouTube: www.youtube.com/@dilaxia_yourdigitalgate
