Progettazione della pipeline
Il retrieval in produzione è una pipeline: acquisizione, chunking, metadati, embeddings, lexical search, vector search, reranking e answer eval.
Infrastruttura di Retrieval
Ricerca ibrida, pipeline di embedding, strategia per i metadati, reranking ed eval per sistemi RAG in produzione.
diagramma di architettura: retrieval. Nodi: docs, chunks, vector, lexical, rerank, eval. Flusso: da docs a chunks (primario); da chunks a vector (primario); da vector a rerank (primario); da chunks a lexical (di supporto); da lexical a rerank (di supporto); da rerank a eval (feedback).
Diagnostica
Prima di cambiare modello, controllo i documenti non recuperati, i chunk ambigui, i documenti obsoleti, i filtri e l’intento della query.
Infrastruttura di Retrieval
Pipeline di embedding, ricerca ibrida, filtri sui metadati, reranking ed eval set stabili per sistemi RAG.
diagramma di architettura: retrieval. Nodi: docs, chunks, vector, lexical, rerank, eval. Flusso: da docs a chunks (primario); da chunks a vector (primario); da vector a rerank (primario); da chunks a lexical (di supporto); da lexical a rerank (di supporto); da rerank a eval (feedback).
Sistemi di Valutazione
Regression suite, casi avversariali, trace review, monitoraggio dei costi ed evidenza che un sistema è pronto al rilascio.
diagramma di architettura: evals. Nodi: trace, cases, score, regress, report, fix. Flusso: da trace a cases (primario); da cases a score (primario); da score a report (primario); da score a regress (feedback); da regress a fix (di supporto); da fix a trace (loop, percorso di correzione).
Progetti correlati
Progetti in cui applico questo concetto. La pagina dei progetti mostra codice e maturità di ciascuno.
Hai un progetto in mente?
Scrivi a info@gianlucamazza.it il problema operativo e i sistemi coinvolti. Quando c’è già un prototipo funzionante, il primo passo è la review di production readiness. Quella review non include modifiche al codice.