Coûts de l'IA

Aperçu

Les coûts de l’IA dans la gestion des coûts cloud offrent aux équipes FinOps et d’ingénierie une destination unifiée pour analyser les dépenses en IA à travers les fournisseurs, y compris Amazon Bedrock, Anthropic, Google Gemini, OpenAI, Vertex AI, GitHub Copilot et Cursor. Consultez les dépenses totales en IA aux côtés de vos coûts d’infrastructure cloud existants, analysez-les avec des étiquettes normalisées, suivez les anomalies de coût et attribuez l’utilisation aux utilisateurs spécifiques et aux clés API qui les génèrent.

Conditions préalables

Pour utiliser les coûts de l’IA, vous devez avoir au moins un des fournisseurs pris en charge configuré pour Cloud Cost Management :

Fournisseur d’IAMéthode de configuration
Amazon BedrockAWS integration
AnthropicSaaS integration
Google GeminiGoogle Cloud integration
OpenAISaaS integration
Vertex AIGoogle Cloud integration
GitHub CopilotGitHub Copilot
CursorCursor

Résumé des coûts de l’IA

Après avoir connecté vos fournisseurs d’IA, naviguez vers Cloud Cost > Summarize > AI pour voir la page de résumé des coûts de l’IA.

Le tableau de bord de résumé des coûts de l'IA, montrant les tendances de dépenses quotidiennes sur une période d'un mois, une liste des principaux moteurs de dépenses et un graphique d'anomalies.

La page de résumé des coûts de l’IA fournit :

  • Coût total de l’IA : Coût agrégé de l’IA et changement de coût sur la période sélectionnée.
  • Coût quotidien de l’IA : Tendances des coûts quotidiens parmi les fournisseurs sélectionnés sur la période choisie. Utilisez le menu déroulant Filter to pour définir quels fournisseurs apparaissent dans le graphique.
  • Principaux moteurs de coûts : Les modèles, projets, services et utilisateurs générant le plus de dépenses.
  • Anomalies de coût de l’IA actives : Anomalies de coût anomalies mises en évidence de manière proactive parmi tous les fournisseurs connectés. Sélectionnez une anomalie pour ouvrir un panneau latéral avec plus de détails et des options pour des actions supplémentaires.
  • Tableaux de bord des coûts de l’IA : Modèles de tableaux de bord prêts à l’emploi pour chaque fournisseur pris en charge, combinant des données de coût avec des signaux d’utilisation tels que la consommation de jetons, la distribution des modèles et l’analyse des utilisateurs.

Tags normalisés de l’IA

Les données de coût de l’IA de tous les fournisseurs pris en charge sont normalisées à un ensemble cohérent de tags. Utilisez ces tags pour filtrer, regrouper, comparer et planifier les dépenses en IA à travers les tableaux de bord, monitors, budgets, forecasts et d’autres outils Datadog. Utilisez Cloud Cost Explorer pour interroger et comparer les dépenses entre les fournisseurs sans écrire de logique par fournisseur.

Les tags suivants sont disponibles pour tous les fournisseurs d’IA pris en charge :

Nom du tag                                                     Description du tag
providernameLe fournisseur d’IA.
modelL’identifiant du modèle d’IA (par exemple, claude-opus-4-6, gpt-4.1).
model_nameLe nom du modèle lisible par l’homme (par exemple, Claude Opus 4.6).
token_directionIndique si des jetons sont consommés (entrée) ou générés (sortie) dans un service ou une application.
token_categoryLa catégorie spécifique de jetons consommés, tels que les jetons d’entrée, les jetons de sortie ou les jetons liés aux opérations de mise en cache et de recherche (par exemple, cached input, cache write, standard input, output).
projectLe projet, l’espace de travail ou l’environnement auquel appartiennent les coûts de l’IA.

Attribuer les dépenses de l’IA aux sources

Les règles d’allocation prêtes à l’emploi (OOTB) utilisent les données d’observabilité de Datadog pour attribuer les coûts de l’IA aux utilisateurs, aux clés API et à d’autres sources qui les ont générés. Les règles d’allocation OOTB ne nécessitent aucune configuration et sont disponibles pour Anthropic et OpenAI.

Les tags suivants sont disponibles via les règles d’allocation OOTB :

    • api_key_id
    • api_key_name
    • context_window
    • model
    • model_id
    • org_id
    • org_name
    • service_tier
    • user_email
    • user_id
    • user_name
    • workspace_id
    • workspace_name
    • account_id
    • account_name
    • api_key_id
    • batch
    • endpoint
    • model
    • org_id
    • project_id
    • project_name
    • user_email
    • user_id

    Configurer Tag Pipelines pour mapper les balises OOTB (telles que user_email) aux équipes, services ou unités commerciales pour des rapports agrégés :

    La page de configuration des règles des pipelines de balises, montrant les valeurs user_email mappées aux valeurs d'équipe via une table de référence existante, et d'autres options de mappage de balises.

    Après le mappage, les dépenses attribuées apparaissent dans les tableaux de bord spécifiques au fournisseur et dans les Cost Reports :

    Un tableau de bord spécifique au fournisseur avec un graphique à barres empilées montrant les dépenses quotidiennes du fournisseur attribuées par équipe et nom de modèle, ainsi qu'une liste récapitulative des attributions de dépenses.

    Lectures complémentaires

    Documentation, liens et articles supplémentaires utiles:

    Cloud Cost ManagementDOCUMENTATION more more Coûts SaaS et IADOCUMENTATION more more Règles d'allocation personnaliséesDOCUMENTATION more more Pipelines de tagsDOCUMENTATION more more RapportsDOCUMENTATION more more Moniteurs de coûts cloudDOCUMENTATION more more BudgetsDOCUMENTATION more more PrévisionsDOCUMENTATION more more