RAG sta per Retrieval-Augmented Generation, in italiano generazione aumentata dal recupero. È una tecnica in cui il sistema, prima di rispondere, cerca i passaggi rilevanti nei tuoi documenti e li passa al modello linguistico insieme alla domanda. Così la risposta si basa sulle tue fonti e non solo su ciò che il modello ha imparato in addestramento.

Meglio RAG o fine-tuning?

Per far rispondere un agente su procedure e documenti aziendali, di solito si parte dalla RAG. Non modifica il modello, si tiene aggiornata aggiornando i documenti e permette di citare la fonte. Il fine-tuning riaddestra il modello ed è più adatto a insegnare uno stile o un formato che a gestire informazioni che cambiano spesso.

La RAG elimina le allucinazioni?

Le riduce, ma non le elimina. Se il documento giusto non viene trovato, o è scritto in modo ambiguo, il modello può ancora sbagliare. Per questo servono anche regole come “se la risposta non è nei documenti, dillo e passa a una persona”.

RAG (Retrieval-Augmented Generation): cos’è e come funziona

Definizione

L’agente cerca nei tuoi documenti prima di rispondere, così cita le tue procedure invece di inventare.

Si dice anche: Retrieval-Augmented Generation, generazione aumentata dal recupero, retrieval augmented generation.

La RAG (Retrieval-Augmented Generation, generazione aumentata dal recupero) è una tecnica che fa cercare a un sistema AI le informazioni pertinenti nei tuoi documenti prima di generare una risposta. Il modello linguistico riceve la domanda insieme ai passaggi trovati e risponde basandosi su quelli. In pratica l’agente consulta le tue procedure, i listini e la knowledge base, invece di rispondere a memoria.

Come funziona

Il processo ha due fasi.

Preparazione. I documenti (manuali, FAQ, procedure, risposte già date) vengono divisi in brani e indicizzati. Di solito ogni brano viene trasformato in un embedding, una rappresentazione numerica del significato, e salvato in un database vettoriale. Questo permette di trovare i brani per senso, non solo per parole identiche.

Risposta. Quando arriva una domanda, il sistema cerca i brani più pertinenti, li inserisce nel contesto del modello insieme alla domanda e gli chiede di rispondere usando quelle fonti. Una buona implementazione conserva il riferimento al documento, così la risposta può citarlo.

Prendi Hugo, il supporto clienti. Un cliente chiede come si fa una certa operazione. Hugo cerca nella vostra knowledge base e nelle risposte già date dal team, trova la procedura e risponde nel vostro tono. Se nei documenti la risposta non c’è, non la inventa: passa il ticket a una persona con un riassunto. E ogni settimana ti segnala le domande rimaste senza risposta, così sai cosa manca nella documentazione.

Perché conta per un’azienda

La RAG è il modo più diretto per far lavorare un agente sulle tue informazioni senza riaddestrare un modello. I tuoi documenti vengono consultati al momento della domanda e non diventano parte del modello. È coerente con una regola di Agentity: nessun addestramento sui dati del cliente.

La qualità però dipende dai documenti. Procedure vecchie, contraddittorie o incomplete producono risposte vecchie, contraddittorie o incomplete. Prima di partire, chiedi al fornitore:

quali fonti vengono indicizzate e ogni quanto si aggiornano;
se la risposta mostra da quale documento proviene;
cosa fa l’agente quando non trova niente di pertinente.

Differenza con il fine-tuning

Il fine-tuning riaddestra il modello su esempi specifici e ne cambia il comportamento in modo stabile. La RAG lascia il modello com’è e gli fornisce le informazioni al momento. Per contenuti che cambiano, come listini, procedure e condizioni, la RAG è più pratica: aggiorni il documento e l’agente usa subito la versione nuova. Riduce anche le allucinazioni, senza eliminarle.

Domande frequenti

Cosa significa RAG?: RAG sta per Retrieval-Augmented Generation, in italiano generazione aumentata dal recupero. È una tecnica in cui il sistema, prima di rispondere, cerca i passaggi rilevanti nei tuoi documenti e li passa al modello linguistico insieme alla domanda. Così la risposta si basa sulle tue fonti e non solo su ciò che il modello ha imparato in addestramento.
Meglio RAG o fine-tuning?: Per far rispondere un agente su procedure e documenti aziendali, di solito si parte dalla RAG. Non modifica il modello, si tiene aggiornata aggiornando i documenti e permette di citare la fonte. Il fine-tuning riaddestra il modello ed è più adatto a insegnare uno stile o un formato che a gestire informazioni che cambiano spesso.
La RAG elimina le allucinazioni?: Le riduce, ma non le elimina. Se il documento giusto non viene trovato, o è scritto in modo ambiguo, il modello può ancora sbagliare. Per questo servono anche regole come “se la risposta non è nei documenti, dillo e passa a una persona”.

RAG (Retrieval-Augmented Generation): cos’è e come funziona

Come funziona

Perché conta per un’azienda

Differenza con il fine-tuning

Domande frequenti

Dove lo trovi negli agenti Agentity

Receptionist WhatsApp

Addetto preventivi

Supporto clienti