Små sprogmodeller driver komplekse multi-agent-systemer

Vores analyse

Hugging Face har præsenteret projektet "Thousand Token Wood", som demonstrerer, hvordan man kan køre en hel økonomi af uafhængige AI-agenter på en lille sprogmodel med kun 3 milliarder parametre. Tidligere har komplekse multi-agent-systemer krævet store, dyre cloud-modeller for at fungere uden at miste den røde tråd. Dette eksperiment beviser, at optimeret prompt engineering og strukturerede workflows gør det muligt at opnå lignende resultater med minimale modeller.

For danske SMV'er og digitale bureauer er dette et vigtigt teknologisk skift. Multi-agent-systemer, hvor AI-agenter samarbejder om opgaver som kundesupport, databehandling eller indholdsproduktion, har hidtil været forbundet med høje API-omkostninger og latency-udfordringer. Når disse systemer kan afvikles på 3B-modeller der kører lokalt, falder adgangsbarrieren drastisk — og data kan holdes på eget hardware.