Sistemi LLM dal prototipo alla produzione
Dopo la review realizzo nel tuo repository gli interventi concordati per la produzione.
Brescia · software
Porto sistemi LLM in produzione.
Ingegnere indipendente che porta sistemi LLM dal prototipo alla produzione (stato, recovery, eval, costi).
Quando c’è già un prototipo funzionante, parto dalla review di production readiness. Quella review non include modifiche al codice.
Software pubblicato e benchmark riproducibili: 1 DOI software 10.5281/zenodo.19972258 20 Progetti
Cosa faccio
Definisco confini di verifica e autorizzazione per gli output del modello e rendo verificabili stato, recovery, valutazione e costi.
Quando c’è già un prototipo funzionante, il primo passo è la review di production readiness. Quella review non include modifiche al codice. Review di production readiness · 3.500 €
Fractional CTO a tempo parziale
Quel lavoro di produzione lo porto come incarico da fractional CTO: scelte di stack, revisione di codice e fornitori, e un piano di sviluppo.
Passaggio di consegne del codice
Documento come eseguire e mantenere il sistema, con test, procedure operative e gli accessi necessari al tuo team.
Cosa ho costruito
Descrivo il problema affrontato e ciò che ho realizzato, con link al codice e alle fonti che documentano il risultato.
emotional-memory
#emotional-memory
Descrizione del diagramma
Codifico lo stato affettivo in un archivio di memoria ed eseguo un benchmark pubblicato; la matrice dei claim torna sulla codifica. L’acquisizione del dataset e gli artefatti pubblicati restano nella pagina del progetto: questa anteprima li omette.
Problema
Quando un’azienda aggiunge un assistente AI, come verifichi che ciò che ricorda oggi verrà richiamato correttamente dopo il prossimo aggiornamento di modello o software?
Cosa ho rilasciato
Su un benchmark pubblicato (DOI Zenodo), il metodo ha superato una baseline cosine sull’accuratezza delle risposte. I risultati negativi fuori da quel regime sono nel repo: evidenza per quel caso, non una superiorità generale.
orka
#orka
Descrizione del diagramma
L’input di canale viene instradato in una coda che esegue un workflow vincolato e scrive uno stato salvato. Un’esecuzione interrotta riprende da quello stato salvato. Gli adapter di protocollo restano nella pagina del progetto: questa anteprima li omette.
Problema
Le richieste arrivano da chat, email e strumenti interni, ma senza una coda persistente unica non c’è un percorso affidabile dall’input di canale a un workflow LLM tracciato e revisionabile.
Cosa ho rilasciato
Una coda unica porta le richieste da più canali in workflow LLM tracciati e revisionabili. (Supporto MCP/A2A: dettaglio nella pagina del progetto.)
Domande frequenti
- Per chi sviluppi software?
- Lavoro con team tecnici e fondatori che portano sistemi LLM in produzione. Di solito hanno già un prototipo funzionante e cercano qualcuno che si occupi di errori operativi, qualità degli output e costi di esercizio.
- Puoi lavorare con un team e uno stack esistenti?
- Sì. Lavoro con lo stack e i vincoli esistenti. Posso intervenire sulla gestione dello stato e degli errori, introdurre test di valutazione prima del rilascio o misurare e limitare i costi. Consegno al team test e documentazione per mantenere questi controlli. Per esempio, in un incarico a contratto del 2025 riportato nel mio CV ho tradotto un’architettura che avevo progettato in un piano implementabile e ho supportato la consegna insieme al team del cliente.
- Che prove hai che i tuoi sistemi funzionano?
- Una parte del mio lavoro è open source e verificabile. Il progetto emotional-memory ha un DOI Zenodo (https://doi.org/10.5281/zenodo.19972258) con benchmark riproducibili; orka è pubblico su GitHub. Il repository di emotional-memory registra anche i risultati negativi fuori dal regime in cui il metodo aiuta.
- Come avvio un progetto con te?
- Scrivi a info@gianlucamazza.it il problema operativo. Quando c’è già un prototipo funzionante, il primo passo è la review di production readiness. Quella review non include modifiche al codice. Per la direzione tecnica concordo una valutazione del team. Per il passaggio di consegne concordo una valutazione del repository.
Hai un progetto in mente?
Scrivi a info@gianlucamazza.it il problema operativo e i sistemi coinvolti. Quando c’è già un prototipo funzionante, il primo passo è la review di production readiness. Quella review non include modifiche al codice.
Approfondimenti tecnici
Sistemi spiega i pattern architetturali; Ricerca collega esperimenti e limiti. L’architettura del sito mostra come le proposte del modello passano i controlli prima della pubblicazione.