Coût des LLM

Quel est le coût des grands modèles de langage ?

Les grands modèles de langage (LLM) sont des systèmes avancés d’intelligence artificielle conçus pour comprendre et générer du texte de manière humaine. Ils sont construits à l’aide de réseaux neuronaux profonds comptant des milliards de paramètres, entraînés sur d’immenses ensembles de données provenant d’internet, de livres, d’articles et d’autres sources. Parmi les exemples notables figurent GPT-3 et GPT-4 d’OpenAI, BERT de Google, la série LLaMA de Meta et les modèles de Mistral AI.

Le coût associé aux LLM désigne les ressources financières nécessaires à leur développement (entraînement) et à leur déploiement (inférence). Les coûts d’entraînement comprennent les dépenses liées à la construction et à l’ajustement du modèle, tandis que les coûts d’inférence recouvrent les frais opérationnels pour traiter les entrées et générer des sorties en temps réel.

Comprendre ces coûts est essentiel pour les organisations souhaitant intégrer des LLM à leurs produits ou services. Cela permet d’établir un budget, d’allouer les ressources et de déterminer la faisabilité des projets IA.

Coûts d’entraînement des grands modèles de langage

Facteurs contribuant aux coûts d’entraînement

1. Ressources de calcul : L’entraînement des LLM requiert une puissance de calcul considérable, impliquant souvent des milliers de GPU hautes performances ou de matériel IA spécialisé, comme les GPU NVIDIA A100 ou H100. Le coût d’acquisition ou de location de ce matériel est important.
2. Consommation d’énergie : Les exigences élevées en calcul entraînent une forte consommation d’énergie, ce qui augmente le coût de l’électricité. L’entraînement de grands modèles peut consommer plusieurs mégawattheures.
3. Gestion des données : La collecte, le stockage et le traitement de vastes ensembles de données pour l’entraînement impliquent des coûts liés à l’infrastructure de stockage et à la bande passante.
4. Ressources humaines : Des ingénieurs IA, des data scientists et des chercheurs qualifiés sont nécessaires pour développer et superviser le processus d’entraînement, ce qui contribue aux coûts salariaux.
5. Maintenance de l’infrastructure : L’entretien des centres de données ou des infrastructures cloud comprend les frais liés aux systèmes de refroidissement, à l’espace physique et au matériel réseau.
6. Recherche et développement : Les coûts liés au développement d’algorithmes, à l’expérimentation et à l’optimisation durant la phase d’entraînement.

Estimation des coûts d’entraînement pour des LLM populaires

• GPT-3 d’OpenAI : Le coût d’entraînement est estimé entre 500 000 $ et 4,6 millions de dollars, principalement en raison de l’utilisation de GPU haut de gamme et de l’énergie nécessaire au calcul.
• GPT-4 : Son coût d’entraînement dépasserait 100 millions de dollars, compte tenu de la taille et de la complexité accrues du modèle.
• BloombergGPT : Les dépenses d’entraînement ont atteint plusieurs millions de dollars, en grande partie dues au coût des GPU et à la puissance de calcul requise.

Ces chiffres montrent que l’entraînement de LLM de pointe à partir de zéro est un investissement principalement accessible aux grandes organisations disposant de ressources substantielles.

Comment gérer et réduire les coûts d’entraînement

1. Ajustement de modèles pré-entraînés : Plutôt que d’entraîner un LLM depuis le début, les organisations peuvent ajuster des modèles open source existants (comme LLaMA 2 ou Mistral 7B) sur des données spécifiques à leur domaine. Cette approche réduit considérablement les besoins en calcul et les coûts.
2. Techniques d’optimisation des modèles :
   • Quantification : Réduire la précision des poids du modèle (par exemple de 32 bits à 8 bits) pour diminuer la mémoire et les besoins en calcul.
   • Élagage : Supprimer les paramètres superflus pour simplifier le modèle sans perte significative de performance.
   • Distillation des connaissances : Entraîner un modèle plus petit à imiter un modèle plus grand, tout en conservant les caractéristiques essentielles et en réduisant la taille.
3. Algorithmes d’entraînement efficaces : Mettre en œuvre des algorithmes qui optimisent l’utilisation du matériel, comme l’entraînement en précision mixte ou le gradient checkpointing, pour réduire le temps de calcul et les coûts.
4. Cloud computing et instances spot : Utiliser des services cloud et profiter de la tarification spot permet de réduire les coûts de calcul en utilisant la capacité excédentaire des centres de données à des tarifs avantageux.
5. Collaborations et efforts communautaires : Participer à des collaborations de recherche ou à des projets open source permet de mutualiser les coûts et les efforts liés à l’entraînement de grands modèles.
6. Stratégies de préparation des données : Nettoyer et dédupliquer les données d’entraînement pour éviter des calculs inutiles sur des informations redondantes.

Coûts d’inférence des grands modèles de langage

Facteurs influençant les coûts d’inférence

1. Taille et complexité du modèle : Les modèles plus volumineux nécessitent davantage de ressources de calcul pour chaque inférence, ce qui augmente les coûts opérationnels.
2. Exigences matérielles : L’exécution des LLM en production nécessite souvent des GPU puissants ou du matériel spécialisé, ce qui accroît les coûts.
3. Infrastructure de déploiement : Les dépenses liées aux serveurs (sur site ou cloud), au réseau et au stockage nécessaires pour héberger et servir le modèle.
4. Schémas d’utilisation : La fréquence d’utilisation du modèle, le nombre d’utilisateurs simultanés et les temps de réponse requis influent sur l’utilisation des ressources et les coûts.
5. Besoins de scalabilité : Adapter le service à une demande accrue implique des ressources additionnelles et potentiellement des coûts plus élevés.
6. Maintenance et supervision : Coûts continus pour l’administration système, la mise à jour logicielle et la surveillance des performances.

Estimation des coûts d’inférence

Les coûts d’inférence varient considérablement en fonction des choix de déploiement :

• Utilisation d’API cloud :
  • Des fournisseurs comme OpenAI et Anthropic proposent des LLM en tant que service, facturant à la quantité de tokens traités.
  • Exemple : GPT-4 d’OpenAI facture 0,03 $ pour 1 000 tokens en entrée et 0,06 $ pour 1 000 tokens en sortie.
  • Les coûts peuvent s’accumuler rapidement avec des volumes d’utilisation élevés.
• Hébergement de modèles open source dans le cloud :
  • Déployer un LLM open source dans le cloud nécessite de louer des instances de calcul avec GPU.
  • Exemple : Héberger un LLM sur une instance AWS ml.p4d.24xlarge coûte environ 38 $ de l’heure à la demande, soit plus de 27 000 $ par mois en fonctionnement continu.
• Déploiement sur site :
  • Nécessite un investissement matériel initial important.
  • Peut permettre des économies à long terme pour les organisations ayant une utilisation élevée et régulière.

Stratégies pour réduire les coûts d’inférence

1. Compression et optimisation des modèles :
   • Quantification : Utiliser des calculs en précision réduite pour diminuer les besoins en ressources.
   • Distillation : Déployer des modèles plus petits et efficaces qui offrent des performances acceptables.
2. Choix de la taille de modèle appropriée :
   • Sélectionner un modèle équilibrant performance et coût de calcul.
   • Des modèles plus petits peuvent suffire à certaines applications, réduisant ainsi les dépenses d’inférence.
3. Techniques de service efficaces :
   • Mettre en place du traitement par lots pour gérer plusieurs demandes d’inférence simultanément.
   • Utiliser un traitement asynchrone lorsque les réponses en temps réel ne sont pas essentielles.
4. Infrastructure à autoscaling :
   • Utiliser des services cloud qui adaptent automatiquement les ressources selon la demande afin d’éviter le surdimensionnement.
5. Mise en cache des réponses :
   • Stocker les requêtes fréquentes et leurs réponses pour éviter des calculs redondants.
6. Utilisation de matériel spécialisé :
   • Exploiter des accélérateurs IA ou des GPU optimisés pour l’inférence afin d’améliorer l’efficacité.

Recherche sur le coût des grands modèles de langage : entraînement et inférence

Le coût lié à l’entraînement et à l’inférence des grands modèles de langage (LLM) est devenu un sujet de recherche majeur en raison de la nature très consommatrice en ressources de ces modèles.

• Entraînement par patchs pour les LLM : Une approche visant à réduire les coûts d’entraînement est présentée dans l’article « Patch-Level Training for Large Language Models » de Chenze Shao et al. (2024). Cette recherche introduit l’entraînement par patchs, qui compresse plusieurs tokens en un seul patch, réduisant ainsi la longueur des séquences et les coûts de calcul de moitié sans perte de performance. La méthode consiste en une phase initiale d’entraînement par patchs suivie d’un entraînement au niveau token pour s’aligner sur le mode d’inférence, démontrant son efficacité sur divers modèles de taille différente.

• Coût énergétique de l’inférence : Un autre aspect critique des LLM est le coût énergétique de l’inférence, étudié dans « From Words to Watts: Benchmarking the Energy Costs of Large Language Model Inference » par Siddharth Samsi et al. (2023). Cet article mesure l’utilisation de calcul et d’énergie lors de l’inférence avec les LLM, en se concentrant sur le modèle LLaMA. L’étude révèle des coûts énergétiques significatifs pour l’inférence selon les générations de GPU et les ensembles de données, soulignant la nécessité d’un usage matériel efficace et de stratégies d’inférence optimisées pour gérer les coûts en pratique.

• LLM contrôlables et efficacité de l’inférence : L’article « Bridging the Gap Between Training and Inference of Bayesian Controllable Language Models » de Han Liu et al. (2022) aborde le défi de contrôler des modèles de langage pré-entraînés pour des attributs spécifiques lors de l’inférence, sans modifier leurs paramètres. Cette recherche met en avant l’importance d’aligner les méthodes d’entraînement avec les exigences d’inférence pour améliorer la contrôlabilité et l’efficacité des LLM, en utilisant des discriminateurs externes pour guider les modèles pré-entraînés lors de l’inférence.