Hvad betyder Temperature?
Temperature er en indstilling, som ved sampling påvirker fordelingen af mulige næste tokens. Lavere værdier gør fordelingen mere koncentreret, mens højere værdier kan give flere forskellige fortsættelser. Understøttede værdier og adfærd afhænger af model og API.
Lav temperature er ikke en faktakontrol og garanterer ikke identiske svar. Et forkert svar kan stadig være modellens mest sandsynlige fortsættelse. Der kan desuden være variation fra andre dele af systemet.
Til et stabilt udtræk bør I først definere outputformat og valideringsregler. Afprøv derefter indstillinger på samme input, hvis den valgte model tillader det. Til idéudvikling kan mere variation være ønskelig, men idéernes relevans skal stadig vurderes. Undgå at kopiere en bestemt indstilling fra en anden model uden at teste den.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.