Hvad betyder Transfer learning?
Transfer learning er en tilgang, hvor viden repræsenteret i en eksisterende model bruges til en ny opgave. I billedanalyse kan et netværk, der har lært generelle visuelle mønstre, være udgangspunkt for en mere specialiseret klassifikator. Det er modellens lærte parametre og repræsentationer, der genbruges.
Genbrug kan ske på forskellige måder. Modellen kan fungere som en fast feature extractor, hvor et nyt lag lærer den konkrete opgave. Man kan også tilpasse dele af den eksisterende model gennem yderligere træning. Den sidste tilgang omtales ofte som fine-tuning.
Fordelen afhænger af, om det oprindelige og det nye problem har relevante ligheder. En stærk model på almindelige fotografier er ikke automatisk god til en specialiseret billedtype. Genbrug ændrer heller ikke behovet for et veldefineret mål og en uafhængig evaluering.
Afgør, hvad der skal genbruges og tilpasses
Ved feature extraction holdes den eksisterende del typisk fast, mens den nye del trænes. Ved fine-tuning tillades ændringer i udvalgte eller flere lag. Det kan give mere tilpasning, men øger også risikoen for at overtilpasse et lille datasæt.
En praktisk proces begynder ofte med en enklere tilpasning som reference. Derefter undersøges, om yderligere træning forbedrer resultaterne på valideringsdata. Det er testen på nye observationer, der afgør nytten.
Undersøg data, rettigheder og drift
Vurder modellens dokumenterede anvendelse, licens og inputkrav. En model kan være teknisk egnet, men upraktisk på grund af størrelse, hardwarekrav eller manglende mulighed for vedligeholdelse. Gem modelversionen, så resultatet kan reproduceres.
Saml eksempler, der afspejler den nye opgave. Sjældne produkter, skiftende belysning og andre realistiske variationer bør indgå i evalueringen. En eksisterende model er et udgangspunkt, ikke et bevis for kvalitet på jeres data.
Et eksempel fra praksis
Forestil jer en producent, som vil sortere billeder af emballage efter bestemte synlige fejl. En eksisterende billedmodel bruges først til at udtrække repræsentationer, og et mindre klassifikationslag trænes på fagligt vurderede billeder.
Piloten sammenligner denne løsning med en mere omfattende tilpasning. Begge vurderes på senere optagelser fra produktionslinjen. Hvis den større tilpasning kun forbedrer træningsresultaterne, beholdes den enklere model. Det giver et konkret beslutningsgrundlag frem for en antagelse om, at mere træning altid hjælper.
Typiske faldgruber
- Store forskelle mellem oprindelige og nye data kan begrænse værdien af genbrug.
- For omfattende tilpasning på få eksempler kan føre til overfitting.
- Modellicens, version og krav til drift kan blive overset i et hurtigt forsøg.
Det skal I afklare
- Hvor ligner den nye opgave modellens oprindelige anvendelse, og hvor adskiller den sig?
- Hvilke lag eller parametre skal holdes faste i første forsøg?
- Er forbedringen dokumenteret på eksempler, som ikke blev brugt til tilpasning?
Spørgsmål og svar
Er transfer learning og fine-tuning synonymer?
De overlapper, men er ikke identiske. Transfer learning beskriver genbrug mellem opgaver. Fine-tuning er en måde at tilpasse en eksisterende model ved yderligere træning.
Betyder transfer learning, at vi ikke behøver egne data?
Nej. Repræsentative eksempler er stadig nødvendige for at vurdere den konkrete opgave og ofte også for at tilpasse modellen. Databehovet afhænger af opgavens forskel fra det oprindelige grundlag.
Kilder og videre læsning
De tekniske begreber bygger på nedenstående kilder. Eksemplerne er illustrative og viser, hvordan I kan arbejde med emnet.
- TensorFlow: Transfer learning and fine-tuning ↗Faste repræsentationer, tilpasning af lag og evaluering.
- TensorFlow: Convolutional Neural Network ↗Baggrund om lærte repræsentationer i billedmodeller.