Hvad betyder Fine-tuning?
Fine-tuning er videre træning af en eksisterende model på udvalgte data. Den kan ændre modellens adfærd, eksempelvis tone, klassifikation eller håndtering af et bestemt outputformat. Nogle metoder opdaterer mange vægte; andre bruger mindre adaptere.
Et godt træningsdatasæt skal afspejle den ønskede opgave, men vurderingen skal ske på eksempler, modellen ikke er trænet på. Ellers kan resultatet se bedre ud, end det er i drift. Hold også øje med, om forbedringen sker på bekostning af andre relevante opgaver.
Fine-tuning og RAG løser forskellige problemer. RAG tilfører kilder under brug, mens fine-tuning ændrer modellen. De kan kombineres. Start med en baseline og afgør, om fejlene skyldes manglende viden, uklare instruktioner eller adfærd, der kræver træning. Der findes ingen universel procentdel af projekter, hvor den ene metode vinder.
Et eksempel fra praksis
Afprøv fine-tuning, hvis en tydelig prompt og relevante kilder ikke løser en stabil, gentagen fejltype. Vælg træningsmængde efter opgaven og læringskurven, og sammenlign med den uændrede model på et separat testsæt.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.