Omkostninger ved LLM

Hvad koster store sprogmodeller?

Store sprogmodeller (LLM’er) er avancerede kunstige intelligenssystemer designet til at forstå og generere menneskelignende tekst. De er opbygget med dybe neurale netværk med milliarder af parametre og trænes på enorme datasæt bestående af tekst fra internettet, bøger, artikler og andre kilder. Eksempler på LLM’er inkluderer OpenAI’s GPT-3 og GPT-4, Google’s BERT, Meta’s LLaMA-serie og Mistral AI’s modeller.

Omkostninger forbundet med LLM’er refererer til de økonomiske ressourcer, der kræves for at udvikle (træne) og implementere (inferere) disse modeller. Træningsomkostninger omfatter udgifter til at bygge og finjustere modellen, mens inferensomkostninger dækker de driftsmæssige udgifter ved at køre modellen for at behandle input og generere output i realtidsapplikationer.

At forstå disse omkostninger er afgørende for organisationer, der planlægger at integrere LLM’er i deres produkter eller tjenester. Det hjælper med budgettering, ressourceallokering og vurdering af gennemførligheden af AI-projekter.

Træningsomkostninger for store sprogmodeller

Faktorer, der bidrager til træningsomkostninger

1. Computationale ressourcer: Træning af LLM’er kræver betydelig regnekraft, ofte med tusindvis af højtydende GPU’er eller specialiseret AI-hardware som NVIDIA’s A100 eller H100 GPU’er. Udgiften til at anskaffe eller leje dette hardware er betydelig.
2. Energiforbrug: De omfattende beregningskrav fører til stort energiforbrug og dermed øgede eludgifter. Træning af store modeller kan bruge megawatt-timer af energi.
3. Datastyring: Indsamling, lagring og behandling af enorme datasæt til træning involverer udgifter til datalagringsinfrastruktur og båndbredde.
4. Menneskelige ressourcer: Dygtige AI-ingeniører, datavidenskabsfolk og forskere er nødvendige for at udvikle og håndtere træningsprocessen, hvilket bidrager til lønudgifter.
5. Vedligeholdelse af infrastruktur: Vedligeholdelse af datacentre eller cloud-infrastruktur omfatter udgifter til kølesystemer, fysiske lokaler og netværksudstyr.
6. Forskning og udvikling: Udgifter relateret til algoritmeudvikling, eksperimenter og optimering under træningsfasen.

Anslåede træningsomkostninger for populære LLM’er

• OpenAI’s GPT-3: Anslåede træningsomkostninger lå mellem $500.000 og $4,6 millioner, primært på grund af brugen af high-end GPU’er og energiforbruget til beregning.
• GPT-4: Rapporteres at have kostet over $100 millioner at træne, i betragtning af den øgede modelstørrelse og kompleksitet.
• BloombergGPT: Træningsudgifterne nåede op på millioner af dollars, hovedsageligt på grund af GPU-udgifter og den omfattende beregning, der krævedes.

Disse tal viser, at træning af topmoderne LLM’er fra bunden hovedsageligt er en investering for store organisationer med betydelige ressourcer.

Hvordan kan træningsomkostninger håndteres og reduceres?

1. Finjustering af fortrænede modeller: I stedet for at træne en LLM fra bunden kan organisationer finjustere eksisterende open source-modeller (som LLaMA 2 eller Mistral 7B) på domænespecifikke data. Denne tilgang reducerer markant de computationale krav og omkostninger.
2. Modeloptimeringsteknikker:
   • Kvantisering: Reducering af præcisionen på modelvægtninger (f.eks. fra 32-bit til 8-bit) for at mindske hukommelses- og beregningskrav.
   • Beskæring: Fjernelse af overflødige modelparametre for at gøre modellen mere effektiv uden væsentligt tab af ydeevne.
   • Kundskabsdestillation: Træning af en mindre model til at efterligne en større og dermed fastholde essentielle egenskaber i reduceret størrelse.
3. Effektive træningsalgoritmer: Implementering af algoritmer, der optimerer hardwareudnyttelsen, såsom mixed-precision træning eller gradient checkpointing, for at forkorte beregningstid og nedbringe omkostninger.
4. Cloud computing og spot-instanser: Udnyttelse af cloudtjenester og spot-instanser kan sænke de computationale udgifter ved at bruge overskudskapacitet i datacentre til reducerede priser.
5. Samarbejder og fællesskabsinitiativer: Deltagelse i forskningssamarbejder eller open source-projekter kan fordele omkostninger og indsats ved træning af store modeller.
6. Datatilberedningsstrategier: Rensning og deduplikering af træningsdata for at undgå unødvendig beregning på redundant information.

Inferensomkostninger for store sprogmodeller

Faktorer, der påvirker inferensomkostninger

1. Modelstørrelse og kompleksitet: Større modeller kræver flere beregningsressourcer for hver inferens, hvilket øger driftsomkostningerne.
2. Hardwarekrav: Drift af LLM’er i produktion kræver ofte kraftige GPU’er eller specialiseret hardware, hvilket bidrager til højere omkostninger.
3. Implementeringsinfrastruktur: Udgifter forbundet med servere (on-premises eller cloud-baserede), netværk og lagerplads til at hoste og servicere modellen.
4. Brugsmønstre: Hyppigheden af modelbrug, antal samtidige brugere og nødvendige svartider påvirker ressourceudnyttelse og omkostninger.
5. Skalerbarhedsbehov: Skalering af tjenesten til at håndtere øget efterspørgsel medfører ekstra ressourcer og potentielt højere udgifter.
6. Vedligeholdelse og overvågning: Løbende udgifter til systemadministration, softwareopdateringer og performance-overvågning.

Anslå inferensomkostninger

Inferensomkostninger kan variere betydeligt afhængigt af implementeringsvalg:

• Brug af cloud-baserede API’er:
  • Udbydere som OpenAI og Anthropic tilbyder LLM’er som en service og opkræver betaling per token behandlet.
  • Eksempel: OpenAI’s GPT-4 opkræver $0,03 pr. 1.000 input-tokens og $0,06 pr. 1.000 output-tokens.
  • Omkostningerne kan hurtigt løbe op ved stort forbrug.
• Selvhostede modeller i skyen:
  • Implementering af en open source LLM på cloud-infrastruktur kræver leje af compute-instanser med GPU’er.
  • Eksempel: Hosting af en LLM på en AWS ml.p4d.24xlarge instans koster ca. $38 pr. time on-demand, svarende til over $27.000 pr. måned ved kontinuerlig drift.
• On-premises implementering:
  • Kræver betydelig indledende hardwareinvestering.
  • Kan give besparelser på lang sigt for organisationer med stort og konstant forbrug.

Strategier til at reducere inferensomkostninger

1. Modelkomprimering og -optimering:
   • Kvantisering: Brug af lavere præcision i beregninger for at reducere ressourceforbrug.
   • Destillation: Implementering af mindre, effektive modeller, der stadig leverer acceptabel ydelse.
2. Valg af passende modelstørrelser:
   • Udvælgelse af en model, der balancerer ydelse med beregningsomkostning.
   • Mindre modeller kan være tilstrækkelige til visse applikationer og reducerer inferensudgifterne.
3. Effektive serveringsteknikker:
   • Implementering af batch-behandling til at håndtere flere inferensforespørgsler samtidigt.
   • Udnyttelse af asynkron behandling, hvor realtidssvar ikke er kritisk.
4. Autoskalering af infrastruktur:
   • Brug af cloudtjenester, der automatisk skalerer ressourcer efter behov for at undgå overprovisionering.
5. Caching af svar:
   • Lagring af hyppige forespørgsler og deres svar for at minimere redundant beregning.
6. Udnyttelse af specialiseret hardware:
   • Brug af AI-acceleratorer eller inferensoptimerede GPU’er for at øge effektiviteten.

Forskning i omkostninger ved store sprogmodeller: Træning og inferens

Omkostninger forbundet med træning og inferens af store sprogmodeller (LLM’er) er blevet et væsentligt forskningsområde på grund af modellernes ressourcekrævende karakter.

• Patch-level træning for LLM’er: En metode til at reducere træningsomkostninger fremhæves i artiklen “Patch-Level Training for Large Language Models” af Chenze Shao m.fl. (2024). Denne forskning introducerer patch-level træning, hvor flere tokens komprimeres til en enkelt patch og dermed reducerer sekvenslængde og beregningsomkostninger med halvdelen uden at gå på kompromis med ydeevnen. Metoden indebærer en indledende patch-level træningsfase efterfulgt af token-level træning for at matche inferensmodus og viser effektivitet på tværs af forskellige modelstørrelser.

• Energiforbrug ved inferens: Et andet vigtigt aspekt ved LLM’er er energiforbruget ved inferens, som undersøges i “From Words to Watts: Benchmarking the Energy Costs of Large Language Model Inference” af Siddharth Samsi m.fl. (2023). Denne artikel benchmarker beregnings- og energiforbruget ved LLM-inferens med særligt fokus på LLaMA-modellen. Undersøgelsen afslører betydelige energikrav til inferens på tværs af forskellige GPU-generationer og datasæt, hvilket understreger behovet for effektiv hardwareudnyttelse og optimale inferensstrategier for at håndtere omkostninger i praksis.

• Kontrollerbare LLM’er og inferenseffektivitet: Artiklen “Bridging the Gap Between Training and Inference of Bayesian Controllable Language Models” af Han Liu m.fl. (2022) adresserer udfordringen med at kontrollere fortrænede sprogmodeller for specifikke attributter under inferens uden at ændre deres parametre. Denne forskning fremhæver vigtigheden af at tilpasse træningsmetoder til inferenskrav for at øge LLM’ers kontrollerbarhed og effektivitet ved hjælp af eksterne diskriminatorer til at guide fortrænede modeller under inferens.