Fine-tuning kostar mer än RAG, där modellen i stället slår upp information vid varje fråga. Den tränade modellen behöver dessutom underhållas över tid. Samtidigt är fine-tuning värdefullt när snabba svar (låg latens), ett exakt format eller en fast tonalitet är avgörande.
Vår ståndpunkt
Vi väljer fine-tuning först när RAG inte räcker eller när vi måste köra på en mindre, snabbare modell.