Kostnad ved LLM

Hva er kostnaden ved store språkmodeller?

Store språkmodeller (LLM-er) er avanserte kunstig intelligens-systemer utviklet for å forstå og generere menneskelignende tekst. De bygges ved hjelp av dype nevrale nettverk med milliarder av parametere og trenes på enorme datasett som består av tekst fra internett, bøker, artikler og andre kilder. Eksempler på LLM-er er OpenAI sin GPT-3 og GPT-4, Googles BERT, Metas LLaMA-serie og Mistral AI sine modeller.

Kostnaden knyttet til LLM-er refererer til de økonomiske ressursene som kreves for å utvikle (trene) og distribuere (inferere) disse modellene. Treningskostnader omfatter utgiftene ved å bygge og finjustere modellen, mens inferenskostnader handler om de driftsmessige utgiftene ved å kjøre modellen for å behandle input og generere output i sanntidsapplikasjoner.

Å forstå disse kostnadene er avgjørende for organisasjoner som planlegger å integrere LLM-er i sine produkter eller tjenester. Det hjelper med budsjettering, ressursallokering og vurdering av gjennomførbarheten av AI-prosjekter.

Treningskostnader for store språkmodeller

Faktorer som bidrar til treningskostnader

1. Datakraft: Trening av LLM-er krever betydelig regnekraft, ofte med tusenvis av høyytelses GPU-er eller spesialisert AI-maskinvare som NVIDIA sine A100 eller H100 GPU-er. Kostnaden for å anskaffe eller leie denne maskinvaren er betydelig.
2. Energiforbruk: De omfattende beregningskravene fører til høyt energiforbruk og økte strømutgifter. Trening av store modeller kan forbruke megawatt-timer med energi.
3. Databehandling: Innsamling, lagring og behandling av enorme datasett for trening innebærer kostnader til datalagringsinfrastruktur og båndbredde.
4. Menneskelige ressurser: Dyktige AI-ingeniører, dataforskere og forskere trengs for å utvikle og håndtere treningsprosessen, noe som bidrar til lønnskostnader.
5. Infrastrukturvedlikehold: Vedlikehold av datasentre eller skyinfrastruktur inkluderer utgifter til kjølesystemer, fysisk plass og nettverksutstyr.
6. Forskning og utvikling: Kostnader knyttet til algoritmeutvikling, eksperimentering og optimalisering under treningsfasen.

Estimerte treningskostnader for populære LLM-er

• OpenAI sin GPT-3: Estimert treningskostnad ligger mellom 500 000 og 4,6 millioner dollar, hovedsakelig på grunn av bruk av avanserte GPU-er og energien som kreves til beregning.
• GPT-4: Det rapporteres at treningen kostet over 100 millioner dollar, med tanke på økt modellstørrelse og kompleksitet.
• BloombergGPT: Treningsutgiftene nådde flere millioner dollar, i stor grad grunnet GPU-kostnader og omfattende beregninger.

Disse tallene viser at trening av topp moderne LLM-er fra bunnen av hovedsakelig er mulig for store organisasjoner med betydelige ressurser.

Hvordan håndtere og redusere treningskostnader

1. Finjustering av forhåndstrenede modeller: I stedet for å trene en LLM fra bunnen av, kan organisasjoner finjustere eksisterende open source-modeller (som LLaMA 2 eller Mistral 7B) på domenespesifikke data. Dette reduserer beregningskravet og kostnadene betydelig.
2. Modelloptimaliseringsteknikker:
   • Kvantisering: Reduksjon av presisjonen på modellvekter (f.eks. fra 32-bit til 8-bit) for å redusere kravene til minne og beregning.
   • Beskjæring: Fjerning av unødvendige modellparametere for å strømlinjeforme modellen uten vesentlig ytelsestap.
   • Kunnskapsdestillasjon: Trening av en mindre modell til å etterligne en større, slik at essensielle egenskaper beholdes mens størrelsen reduseres.
3. Effektive treningsalgoritmer: Implementering av algoritmer som optimaliserer maskinvareutnyttelse, som mixed-precision trening eller gradient checkpointing, for å redusere beregningstid og kostnader.
4. Skybasert databehandling og spot-instanser: Bruk av skytjenester og utnyttelse av spot-instanser kan redusere beregningskostnadene ved å bruke overskuddskapasitet i datasentre til reduserte priser.
5. Samarbeid og fellesskapsprosjekter: Deltakelse i forskningssamarbeid eller open source-prosjekter kan fordele kostnadene og innsatsen som kreves for å trene store modeller.
6. Datatilberedningsstrategier: Rensing og deduplisering av treningsdata for å unngå unødvendige beregninger på redundante data.

Inferenskostnader for store språkmodeller

Faktorer som påvirker inferenskostnader

1. Modellstørrelse og kompleksitet: Større modeller krever mer datakraft for hver inferens, noe som øker driftskostnadene.
2. Maskinvarekrav: Kjøring av LLM-er i produksjon krever ofte kraftige GPU-er eller spesialisert maskinvare, noe som bidrar til høyere kostnader.
3. Distribusjonsinfrastruktur: Utgifter til servere (lokalt eller skybasert), nettverk og lagring som trengs for å hoste og betjene modellen.
4. Bruksmønstre: Hvor ofte modellen brukes, antall samtidige brukere og påkrevd responstid påvirker ressursbruk og kostnader.
5. Skaleringsbehov: Skalering av tjenesten for å håndtere økt etterspørsel innebærer ekstra ressurser og potensielt høyere utgifter.
6. Vedlikehold og overvåkning: Løpende kostnader til systemadministrasjon, programvareoppdateringer og ytelsesovervåkning.

Estimering av inferenskostnader

Inferenskostnader kan variere betydelig avhengig av distribusjonsvalg:

• Bruk av skybaserte API-er:
  • Leverandører som OpenAI og Anthropic tilbyr LLM-er som en tjeneste og tar betalt per token som behandles.
  • Eksempel: OpenAI sin GPT-4 koster $0,03 per 1 000 input-tokens og $0,06 per 1 000 output-tokens.
  • Kostnadene kan raskt øke ved høyt bruk.
• Egenhosting av modeller i skyen:
  • Distribusjon av en åpen LLM på skymiljø krever leie av datainstanser med GPU-er.
  • Eksempel: Å hoste en LLM på en AWS ml.p4d.24xlarge-instans koster omtrent $38 per time ved on-demand, tilsvarende over $27 000 per måned ved kontinuerlig drift.
• Lokal distribusjon (on-premises):
  • Krever betydelig innledende investering i maskinvare.
  • Kan gi langsiktige besparelser for organisasjoner med høy og jevn bruk.

Strategier for å redusere inferenskostnader

1. Modellkomprimering og optimalisering:
   • Kvantisering: Bruke lavere presisjon i beregningene for å redusere ressursbruken.
   • Destillasjon: Distribuere mindre, effektive modeller som gir akseptabel ytelse.
2. Velge passende modellstørrelse:
   • Finne en balanse mellom ytelse og beregningskostnad.
   • Mindre modeller kan være tilstrekkelig for enkelte applikasjoner og redusere inferenskostnader.
3. Effektive serveringsteknikker:
   • Implementere batch-prosessering for å håndtere flere inferensforespørsler samtidig.
   • Bruke asynkron prosessering der sanntidsrespons ikke er kritisk.
4. Autoskalering av infrastruktur:
   • Benytte skytjenester som automatisk skalerer ressursene etter behov for å unngå overprovisjonering.
5. Caching av svar:
   • Lagre hyppige forespørsler og deres svar for å redusere unødvendige beregninger.
6. Bruk av spesialisert maskinvare:
   • Utnytte AI-akseleratorer eller GPU-er optimalisert for inferens for å øke effektiviteten.

Forskning på kostnader ved store språkmodeller: Trening og inferens

Kostnaden knyttet til trening og inferens av store språkmodeller (LLM-er) har blitt et viktig forskningsområde på grunn av disse modellers ressurskrevende natur.

• Patch-nivå-trening for LLM-er: En tilnærming for å redusere treningskostnader er fremhevet i artikkelen “Patch-Level Training for Large Language Models” av Chenze Shao m.fl. (2024). Denne forskningen introduserer patch-nivå-trening, som samler flere tokens i én patch, og dermed reduserer sekvenslengden og beregningskostnadene med halvparten uten å gå på bekostning av ytelsen. Metoden innebærer en innledende fase med patch-nivå-trening etterfulgt av token-nivå-trening for å tilpasse til inferensmodus, og viser effektivitet på tvers av ulike modellstørrelser.

• Energikostnad ved inferens: Et annet viktig aspekt ved LLM-er er energikostnaden knyttet til inferens, utforsket i “From Words to Watts: Benchmarking the Energy Costs of Large Language Model Inference” av Siddharth Samsi m.fl. (2023). Denne artikkelen benker beregnings- og energiforbruket ved LLM-inferens, med særlig fokus på LLaMA-modellen. Studien viser betydelige energikostnader forbundet med inferens på ulike GPU-generasjoner og datasett, og understreker behovet for effektiv maskinvarebruk og optimale inferensstrategier for å håndtere kostnader i praksis.

• Kontrollerbare LLM-er og inferenseffektivitet: Artikkelen “Bridging the Gap Between Training and Inference of Bayesian Controllable Language Models” av Han Liu m.fl. (2022) tar for seg utfordringen med å kontrollere forhåndstrenede språkmodeller for spesifikke attributter under inferens, uten å endre deres parametere. Denne forskningen fremhever viktigheten av å tilpasse treningsmetoder til inferenskrav for å øke kontrollerbarheten og effektiviteten til LLM-er, blant annet ved å bruke eksterne diskriminatorer for å veilede forhåndstrenede modeller under inferens.