Hvad betyder Ensemble learning?
Ensemble learning bruger flere modeller sammen. Formålet er ofte at opnå en mere robust eller præcis forudsigelse, end en enkelt model kan levere. Gevinsten afhænger af, om modellerne bidrager med forskellige nyttige mønstre; mange ens fejl bliver ikke automatisk til et korrekt svar.
Bagging træner typisk flere modeller på variationer af datagrundlaget og kombinerer deres resultater. Boosting opbygger et ensemble gennem en sekvens, hvor nye modeller bidrager til at forbedre den samlede løsning. Ved stacking lærer en ekstra model at kombinere andre modellers output.
Voting og averaging er enklere kombinationer af henholdsvis kategorier og numeriske resultater eller scorer. Den konkrete kombination skal vælges og testes ud fra opgaven. Et ensemble er en modelarkitektur, ikke en garanti for uafhængig kontrol.
Variation er værdifuld, når fejlene er forskellige
To modeller kan have forskellige styrker på forskellige typer input. Hvis deres fejl ikke falder sammen, kan en kombination forbedre resultatet. Men modeller trænet på samme problematiske data kan stadig dele den samme blinde vinkel.
Undersøg derfor fejlmønstre, ikke kun individuelle gennemsnitsscorer. En kompleks sammensætning kan være unødvendig, hvis en enkelt model klarer de relevante situationer lige så godt.
Medregn hele systemets omkostning
Flere modeller kan kræve mere hukommelse, længere svartid og mere overvågning. Der skal også være en aftale om, hvad systemet gør, hvis en delmodel fejler. Kombinationens kvalitet bør testes under disse driftsforhold.
Ved stacking er det vigtigt, at kombinationsmodellen ikke lærer på misvisende resultater fra data, som delmodellerne allerede har trænet på. En korrekt opdeling eller out-of-fold-forudsigelser hjælper med at undgå den form for datalækage.
Et eksempel fra praksis
Et illustrativt planlægningsprojekt kombinerer en simpel sæsonmodel med en model, der bruger flere produkt- og salgsfelter. Begge forudsiger næste periodes efterspørgsel, og et gennemsnit sammenlignes med hver model alene.
Analysen viser særskilt resultater for stabile varer og varer med skiftende efterspørgsel. Hvis kombinationen forbedrer de almindelige varer, men forværrer kritiske reservedele, skal det være synligt. Teamet kan vælge forskellige regler for forskellige situationer, men skal derefter teste den samlede beslutningsproces på nye perioder.
Typiske faldgruber
- Flere modeller kan gentage samme fejl, hvis data og antagelser er ens.
- Et ensemble kan se billigt ud i en notebook, men blive dyrt ved mange forespørgsler.
- Forkert datadeling ved stacking kan give en overoptimistisk score.
Det skal I afklare
- Hvilke forskellige styrker bidrager delmodellerne med?
- Er forbedringen stor nok til at begrunde ekstra drift og svartid?
- Hvordan testes kombinationen uden lækage fra træningsdata?
Spørgsmål og svar
Er random forest et ensemble?
Ja. En random forest kombinerer mange beslutningstræer. Den konkrete variation mellem træerne og kombinationen af deres resultater er centrale dele af metoden.
Er to sprogmodeller, der er enige, et faktatjek?
Ikke i sig selv. Enighed kan skyldes fælles mønstre eller fælles fejl. Faktuelle udsagn kræver et relevant kildegrundlag og en evaluering, der ikke blot måler konsensus.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- scikit-learn: Ensemble methods ↗Bagging, boosting, voting og stacking.
- scikit-learn: Cross-validation ↗Opdeling af data og evaluering uden genbrug af testfacit.