Hvad betyder Reasoning model?
En reasoning-model er udviklet til at bruge yderligere beregning på opgaver, der kræver flere overvejelser. Nogle tjenester giver mulighed for at styre indsatsen. Den præcise mekanisme, hvad der vises til brugeren, og hvordan forbruget tælles, afhænger af modellen.
Ekstra beregning kan være nyttig ved eksempelvis kodefejl, planlægning eller sammensatte analyser. Det garanterer ikke korrekthed og er ikke nødvendigvis værdifuldt for et simpelt dataudtræk. En lang forklaring bør stadig kontrolleres mod kilder og beregninger.
Mål både kvalitet, ventetid og samlet forbrug på jeres egen opgave. Der findes ingen fast regel om et bestemt antal ekstra tokens eller sekunder pr. svar. Sørg også for at reservere tilstrækkelig plads i kontekstvinduet, når intern reasoning tæller med i tokenbudgettet.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.