Resumen

Los costos de IA en Cloud Cost Management ofrecen a los equipos de FinOps y de ingeniería un destino unificado para analizar el gasto en IA a través de proveedores, incluyendo Amazon Bedrock, Anthropic, Google Gemini, OpenAI, Vertex AI, GitHub Copilot y Cursor. Visualice el gasto total en IA junto a los costos de su infraestructura en la nube, analícelo con etiquetas normalizadas, rastree anomalías de costos y atribuya el uso a los usuarios específicos y claves de API que lo impulsan.

Requisitos Previos

Para utilizar los costos de IA, debe tener al menos uno de los siguientes proveedores compatibles configurados para Cloud Cost Management:

Proveedor de IAMétodo de Configuración
Amazon Bedrockintegración de AWS
Anthropicintegración de SaaS
Google GeminiIntegración de Google Cloud
OpenAIIntegración de SaaS
Vertex AIIntegración de Google Cloud
GitHub CopilotGitHub Copilot
CursorCursor

Resumen de costos de IA

Después de conectar a sus proveedores de IA, navegue a Cloud Cost > Resumir > IA para ver la página de resumen de costos de IA.

El tablero de resumen de costos de IA, que muestra las tendencias de gasto diario durante un período de un mes, una lista de los principales impulsores de gasto y un gráfico de anomalías.

La página de resumen de costos de IA proporciona:

  • Costo total de IA: Costo agregado de IA y cambio de costo durante el período de tiempo seleccionado.
  • Costo diario de IA: Tendencias de costo diario entre los proveedores seleccionados durante el período de tiempo seleccionado. Utilice el Filtro para desplegable para definir qué proveedores aparecen en el gráfico.
  • Principales impulsores de costo: Los modelos, proyectos, servicios y usuarios que generan el mayor gasto.
  • Anomalías de costo de IA activas: Costos anomalías detectados proactivamente entre todos los proveedores conectados. Seleccione una anomalía para abrir un panel lateral con más detalles y opciones para realizar una acción adicional.
  • Tableros de costos de IA: Plantillas de tablero listas para usar para cada proveedor compatible, combinando datos de costos con señales de uso como consumo de tokens, distribución de modelos y análisis de usuarios.

Etiquetas de IA normalizadas

Los datos de costos de IA de todos los proveedores compatibles están normalizados a un conjunto consistente de etiquetas. Utilice estas etiquetas para filtrar, agrupar, comparar y planificar el gasto en IA a través de tableros, monitores, presupuestos, pronósticos y otras herramientas de Datadog. Utilice Cloud Cost Explorer para consultar y comparar gastos entre proveedores sin escribir lógica por proveedor.

Las siguientes etiquetas están disponibles para todos los proveedores de IA compatibles:

Nombre de la etiqueta                                                         Descripción de la etiqueta
providernameEl proveedor de IA.
modelEl identificador del modelo de IA (por ejemplo, claude-opus-4-6, gpt-4.1).
model_nameEl nombre del modelo legible por humanos (por ejemplo, Claude Opus 4.6).
token_directionSi se están consumiendo (entrada) o generando (salida) tokens dentro de un servicio o aplicación.
token_categoryLa categoría específica de tokens consumidos, como tokens de entrada, tokens de salida o tokens relacionados con operaciones de almacenamiento en caché y búsqueda (por ejemplo, cached input, cache write, standard input, output).
projectEl proyecto, espacio de trabajo o entorno al que pertenecen los costos de IA.

Atribuya el gasto de IA a las fuentes

Las reglas de asignación listas para usar (OOTB) utilizan datos de observabilidad de Datadog para atribuir los costos de IA a los usuarios, claves de API y otras fuentes que los generaron. Las reglas de asignación OOTB no requieren configuración y están disponibles para Anthropic y OpenAI.

Las siguientes etiquetas están disponibles a través de las reglas de asignación OOTB:

  • api_key_id
  • api_key_name
  • context_window
  • model
  • model_id
  • org_id
  • org_name
  • service_tier
  • user_email
  • user_id
  • user_name
  • workspace_id
  • workspace_name
  • account_id
  • account_name
  • api_key_id
  • batch
  • endpoint
  • model
  • org_id
  • project_id
  • project_name
  • user_email
  • user_id

Configura Tag Pipelines para mapear etiquetas OOTB (como user_email) a equipos, servicios o unidades de negocio para informes agregados:

La página de configuración de la regla de Tag Pipelines, que muestra los valores de user_email mapeados a valores de equipo a través de una tabla de referencia existente, y opciones adicionales de mapeo de etiquetas.

Después de mapear, el gasto atribuido aparece en tableros específicos del proveedor y en Informes de Costos:

Un tablero específico del proveedor con un gráfico de barras apiladas que muestra el gasto diario del proveedor atribuido por equipo y nombre del modelo, y una lista resumen de las atribuciones de gasto.

Lectura adicional