Hvad betyder Underfitting?
Underfitting beskriver en model, som ikke formår at repræsentere de sammenhænge, opgaven kræver. Det kan skyldes en for enkel model, utilstrækkelige input, for kort træning eller begrænsninger, der er sat for stramt. Resultatet er ikke blot fejl på nye data, men ofte også svag kvalitet på træningsmaterialet.
Det er det modsatte problem af overfitting, hvor modellen tilpasser sig træningsdata for meget. Målet er ikke størst mulig kompleksitet, men en model, der lærer nyttige mønstre og anvender dem på nye observationer.
En lav score er dog ikke i sig selv bevis for underfitting. Forkerte labels, manglende oplysninger eller et urealistisk mål kan give samme symptom. Før modellen gøres større, bør datagrundlag, målemetode og en enkel reference gennemgås.
Undersøg, om opgaven kan læres fra inputtet
Spørg, om en fagperson kunne lave en rimelig vurdering ud fra de samme oplysninger. Hvis en vigtig årsag til resultatet slet ikke er registreret, kan mere modelkapacitet ikke fremtrylle den manglende viden.
Sammenlign trænings- og valideringskurver samt fejl på forskellige typer input. En model kan være tilstrækkelig til almindelige situationer, men for begrænset til bestemte mønstre. Det hjælper med at afgrænse, hvad en ændring skal løse.
Ændr én relevant begrænsning ad gangen
Mulige forsøg er bedre features, længere træning, mindre regularisering eller en model med større kapacitet. Hver ændring bør have en begrundelse og vurderes på de samme kvalitetsmål. Ellers bliver det svært at vide, hvad der hjalp.
Et lavere træningstab er kun et mellemresultat. Kontrollér, at forbedringen også ses på valideringsdata, og at modellen ikke blot bevæger sig fra underfitting til overfitting. Medregn ekstra beregning og drift i valget.
Et eksempel fra praksis
Forestil jer en virksomhed, der estimerer energiforbrug med en model baseret alene på kalenderdato. Modellen rammer hverken travle produktionsdage eller planlagte driftsstop særlig godt. Mere træning på samme input løser ikke nødvendigvis problemet.
Teamet undersøger, om kendt produktionsplan og relevante temperaturprognoser kan bruges på beslutningstidspunktet. De nye input testes først i en enkel model. Hvis kvaliteten forbedres, er næste spørgsmål, om en mere kompleks model giver yderligere praktisk værdi. Piloten adskiller således manglende information fra utilstrækkelig modelkapacitet.
Typiske faldgruber
- En større model kan blive valgt, selv om problemet er forkerte eller manglende data.
- Træningsscore og valideringsscore kan blive blandet sammen i diagnosen.
- En ændring kan forbedre træningen uden at forbedre nye observationer.
Det skal I afklare
- Er målet realistisk at forudsige ud fra de tilgængelige input?
- Er modellen svag på både træning og validering, og hvilke fejl går igen?
- Hvilken konkret begrænsning skal det næste forsøg ændre?
Spørgsmål og svar
Er en simpel model altid underfittet?
Nej. En enkel model kan være tilstrækkelig og lettere at vedligeholde. Underfitting handler om, hvorvidt modellen lærer de relevante mønstre for opgaven.
Kan for meget regularisering give underfitting?
Ja. Hvis modellen begrænses for kraftigt, kan den få svært ved at lære nyttige sammenhænge. Styrken bør vælges gennem validering.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- Google: L2 regularization ↗Balancen mellem modelbegrænsning og evnen til at lære.
- Google: Linear regression loss ↗Fejlmål og vurdering af modellens tilpasning.