Kostnad för LLM

Vad kostar stora språkmodeller?

Stora språkmodeller (LLM) är avancerade AI-system som utformats för att förstå och generera text likt en människa. De byggs med djupa neurala nätverk med miljarder parametrar och tränas på enorma datamängder bestående av text från internet, böcker, artiklar och andra källor. Exempel på LLM är OpenAI:s GPT-3 och GPT-4, Googles BERT, Metas LLaMA-serie och Mistral AI:s modeller.

Kostnaden förknippad med LLM avser de ekonomiska resurser som krävs för att utveckla (träna) och driftsätta (inferera med) dessa modeller. Träningskostnader omfattar utgifter för att bygga och finjustera modellen, medan inferenskostnader avser de operativa utgifterna för att köra modellen i realtidsapplikationer.

Att förstå dessa kostnader är avgörande för organisationer som planerar att integrera LLM i sina produkter eller tjänster. Det hjälper vid budgetering, resursallokering och avgör om AI-projekt är genomförbara.

Träningskostnader för stora språkmodeller

Faktorer som påverkar träningskostnader

1. Beräkningsresurser: Att träna LLM kräver stora mängder beräkningskraft, ofta tusentals högpresterande GPU:er eller specialiserad AI-hårdvara som NVIDIA:s A100- eller H100-GPU:er. Kostnaden för att införskaffa eller hyra denna hårdvara är betydande.
2. Energiförbrukning: De höga beräkningskraven medför stor energianvändning, vilket leder till ökade elkostnader. Träning av stora modeller kan konsumera megawattimmar av energi.
3. Datamanagement: Att samla in, lagra och bearbeta enorma datamängder för träning innebär kostnader för lagringsinfrastruktur och bandbredd.
4. Personalresurser: Kompetenta AI-ingenjörer, datavetare och forskare behövs för att utveckla och hantera träningsprocessen, vilket bidrar till arbetskostnader.
5. Infrastrukturunderhåll: Underhåll av datacenter eller molninfrastruktur inkluderar utgifter för kylsystem, fysiskt utrymme och nätverksutrustning.
6. Forskning och utveckling: Kostnader för algoritmutveckling, experiment och optimering under träningsfasen.

Uppskattade träningskostnader för populära LLM

• OpenAI:s GPT-3: Uppskattad träningskostnad låg mellan 500 000 och 4,6 miljoner dollar, främst på grund av användningen av avancerade GPU:er och den energi som krävs för beräkningarna.
• GPT-4: Uppges ha kostat över 100 miljoner dollar att träna, med tanke på den ökade modellstorleken och komplexiteten.
• BloombergGPT: Träningskostnaderna uppgick till flera miljoner dollar, till stor del på grund av GPU-kostnader och omfattande beräkningsbehov.

Dessa siffror visar att träning av toppmoderna LLM från grunden är en investering som främst är möjlig för stora organisationer med betydande resurser.

Hur man hanterar och minskar träningskostnader

1. Finjustera förtränade modeller: Istället för att träna en LLM från grunden kan organisationer finjustera befintliga öppna modeller (såsom LLaMA 2 eller Mistral 7B) på domänspecifik data. Detta minskar avsevärt beräkningsbehov och kostnader.
2. Modelloptimeringstekniker:
   • Kvantisering: Minska precisionen på modellvikter (t.ex. från 32-bit till 8-bit) för att minska minnes- och beräkningskrav.
   • Beskärning: Ta bort onödiga modellparametrar för att effektivisera modellen utan nämnvärd prestandaförlust.
   • Kunskapsdistillering: Träna en mindre modell att efterlikna en större, och därigenom fånga viktiga egenskaper men med mindre storlek.
3. Effektiva träningsalgoritmer: Implementera algoritmer som optimerar hårdvaruutnyttjandet, såsom träning med blandad precision eller gradient-checkpointing, för att minska beräkningstid och kostnader.
4. Molntjänster och spotinstanser: Använda molntjänster och dra nytta av spotpriser kan sänka beräkningskostnader genom att utnyttja överkapacitet i datacenter till reducerat pris.
5. Samarbeten och gemenskapsinsatser: Deltagande i forskningssamarbeten eller open source-projekt kan fördela kostnaden och arbetsinsatsen för träning av stora modeller.
6. Databeredningsstrategier: Rensa och deduplicera träningsdata för att undvika onödig beräkning av redundant information.

Inferenskostnader för stora språkmodeller

Faktorer som påverkar inferenskostnader

1. Modellstorlek och komplexitet: Större modeller kräver mer beräkningsresurser per inferens, vilket ökar de operativa kostnaderna.
2. Hårdvarukrav: Driftsättning av LLM i produktion kräver ofta kraftfulla GPU:er eller specialiserad hårdvara, vilket bidrar till högre kostnader.
3. Driftsinfrastruktur: Utgifter för servrar (lokalt eller i molnet), nätverk och lagring som behövs för att hysa och köra modellen.
4. Användningsmönster: Frekvensen på modellens användning, antal samtidiga användare och önskad svarstid påverkar resursutnyttjande och kostnader.
5. Skalbarhetsbehov: Att skala tjänsten för att hantera ökad efterfrågan kräver ytterligare resurser och potentiellt högre utgifter.
6. Underhåll och övervakning: Löpande kostnader för systemadministration, programuppdateringar och prestandaövervakning.

Uppskattning av inferenskostnader

Inferenskostnader kan variera kraftigt beroende på driftsval:

• Använda molnbaserade API:er:
  • Leverantörer som OpenAI och Anthropic erbjuder LLM som tjänst, med avgift per bearbetad token.
  • Exempel: OpenAI:s GPT-4 tar $0.03 per 1 000 inmatade token och $0.06 per 1 000 utmatade token.
  • Kostnader kan snabbt ackumuleras vid hög användningsvolym.
• Självhosting av modeller i molnet:
  • Driftsättning av en öppen LLM på molninfrastruktur kräver hyra av beräkningsinstanser med GPU:er.
  • Exempel: Att köra en LLM på en AWS ml.p4d.24xlarge-instans kostar cirka $38 per timme on-demand, vilket blir över $27 000 per månad vid kontinuerlig drift.
• Driftsättning på plats (on-premises):
  • Kräver stor initial investering i hårdvara.
  • Kan ge långsiktiga kostnadsbesparingar för organisationer med hög och jämn användning.

Strategier för att minska inferenskostnader

1. Modellkomprimering och optimering:
   • Kvantisering: Använda beräkningar med lägre precision för att minska resursbehov.
   • Distillering: Driftsätta mindre, effektiva modeller med acceptabel prestanda.
2. Välja rätt modellstorlek:
   • Välja en modell som balanserar prestanda och beräkningskostnad.
   • Mindre modeller kan räcka för vissa applikationer och minska inferenskostnaderna.
3. Effektiva serveringstekniker:
   • Implementera batchbearbetning för att hantera flera inferensförfrågningar samtidigt.
   • Utnyttja asynkron bearbetning där omedelbara svar inte är avgörande.
4. Autoskalande infrastruktur:
   • Använda molntjänster som automatiskt skalar resurser efter efterfrågan för att undvika överprovisionering.
5. Cacha svar:
   • Lagra vanliga frågor och deras svar för att minska onödiga beräkningar.
6. Utnyttja specialiserad hårdvara:
   • Använda AI-acceleratorer eller GPU:er optimerade för inferens för ökad effektivitet.

Forskning kring kostnaden för stora språkmodeller: Träning och inferens

Kostnaden för att träna och inferera med stora språkmodeller (LLM) har blivit ett betydande forskningsområde på grund av den resurskrävande karaktären hos dessa modeller.

• Patch-nivåträning för LLM: Ett tillvägagångssätt för att minska träningskostnader presenteras i artikeln “Patch-Level Training for Large Language Models” av Chenze Shao m.fl. (2024). Denna forskning introducerar patch-nivåträning, där flera token komprimeras till en enda patch. Detta reducerar sekvenslängden och halverar beräkningskostnaderna utan prestandaförlust. Metoden innefattar en initial patch-nivåträning följt av token-nivåträning för att anpassas till inferensläget och visar effektivitet över olika modellstorlekar.

• Energikostnad för inferens: En annan viktig aspekt är energikostnaden för inferens, som undersöks i “From Words to Watts: Benchmarking the Energy Costs of Large Language Model Inference” av Siddharth Samsi m.fl. (2023). Denna artikel kartlägger beräknings- och energianvändning för LLM-inferens, med särskilt fokus på LLaMA-modellen. Studien visar på betydande energikostnader för inferens över olika GPU-generationer och datamängder, och betonar behovet av effektiv hårdvaruanvändning och optimala inferensstrategier för att hantera kostnader i praktisk användning.

• Kontrollerbara LLM och inferenseffektivitet: Artikeln “Bridging the Gap Between Training and Inference of Bayesian Controllable Language Models” av Han Liu m.fl. (2022) tar upp utmaningen att kontrollera förtränade språkmodeller för specifika attribut under inferens, utan att ändra deras parametrar. Forskningen understryker vikten av att anpassa träningsmetoder till inferenskrav för att förbättra både kontrollbarhet och effektivitet för LLM, genom att använda externa diskriminatorer för att styra förtränade modeller under inferens.