Un modello linguistico generico conosce molto del mondo, ma non conosce i documenti interni di un’azienda, le sue procedure, i suoi prodotti o il linguaggio di un settore specifico. Per adattarlo esistono due strade principali, che spesso si combinano. Scegliere quella giusta dipende da cosa vuoi cambiare: la conoscenza su cui il modello risponde, oppure il modo in cui risponde.
Fine-tuning
Il fine-tuning consiste nel continuare l’addestramento del modello su un insieme di esempi specifici, così che i suoi parametri si aggiornino. Serve soprattutto a modificare lo stile, il tono, il formato delle risposte o il comportamento in certe situazioni: per esempio rispondere sempre con una struttura precisa o usare un registro professionale. È un’operazione costosa, richiede dati di buona qualità e competenze tecniche, e va ripetuta quando cambiano le esigenze. Inoltre, il modello non impara in modo affidabile fatti nuovi: può memorizzarli in parte, ma senza garanzia di precisione.
RAG
La sigla indica la generazione aumentata dal recupero di documenti. Il sistema cerca, al momento della domanda, i passaggi più rilevanti in una raccolta di documenti, come manuali, procedure o schede prodotto, e li passa al modello insieme alla richiesta. Il modello risponde basandosi su quel materiale. Le risposte restano legate a fonti verificabili, perché è possibile mostrare da quale documento proviene un’informazione.
Quale scegliere
- Per aggiornare la conoscenza, come listini, normative o procedure che cambiano spesso, il RAG è di solito la scelta migliore: basta aggiornare i documenti, senza riaddestrare il modello.
- Per cambiare tono o formato, come rispondere sempre in un certo stile o compilare moduli in modo uniforme, il fine-tuning è più adatto.
- Per casi complessi, le due tecniche si combinano: il fine-tuning per il comportamento, il RAG per i contenuti.
Limiti da conoscere
Il RAG dipende dalla qualità del recupero: se il sistema non trova il documento giusto, la risposta sarà sbagliata o incompleta, anche se il modello è bravo. Documenti vecchi, contraddittori o mal scritti producono risposte scadenti. Il fine-tuning, a sua volta, può far perdere parte delle capacità generali del modello, e richiede un controllo accurato per verificarne gli effetti collaterali.
Dati e riservatezza
In entrambi i casi i documenti aziendali vengono elaborati dal sistema, e in parte possono essere inviati al fornitore del modello. Prima di usare documenti riservati o dati personali, verifica dove vengono conservati, chi vi accede, se sono usati per migliorare i servizi e come sono protetti. Nel dubbio, mantieni l’elaborazione su infrastrutture controllate dall’azienda, o escludi i dati sensibili.
Un percorso pratico
Prima di investire in un progetto, chiarisci il problema: quali domande riceverai, da quali fonti, con quale tolleranza agli errori. Spesso un prototipo basato su RAG, con pochi documenti ben curati, rivela subito se l’approccio funziona. Solo allora ha senso valutare un fine-tuning, con misure chiare di successo.