La domanda più frequente che ricevo sull’AI in azienda è: “come faccio a farle rispondere sui NOSTRI dati, senza che si inventi le cose?”. La risposta si chiama RAG (Retrieval-Augmented Generation).

L’idea in una riga

Prima di rispondere, si recuperano dalla tua base di conoscenza i pezzi più pertinenti alla domanda e li si passano al modello come contesto. Il modello risponde a partire dalle fonti, non dalla memoria: meno allucinazioni, risposte citabili.

hits = store.search(embed(domanda), k=4)      # ricerca semantica
contesto = unisci(h.testo for h in hits)
risposta = llm(f"Contesto:\n{contesto}\n\nDomanda: {domanda}")

Cosa serve davvero

• Un buon chunking dei documenti (né troppo grandi né troppo piccoli).
• Un vector store per la ricerca semantica.
• Regole di accesso: ognuno vede solo i documenti a cui ha diritto.
• Una valutazione: senza misurare pertinenza e correttezza, non sai se funziona.

Dove ci si fa male

Il 90% della qualità di un RAG sta nella fase di retrieval e nella preparazione dei dati, non nel modello. Un modello potente su dati mal indicizzati dà risposte sicure e sbagliate — il peggio.

Puoi provare un mini-RAG dal vivo, che gira nel tuo browser, nella pagina Risorse.