Costos de IA

Esta traducción no está actualizada. Para consultar la última versión en inglés, haz clic aquí

Descripción general

Costos de IA en Cloud Cost Management ofrece a los equipos de FinOps y de ingeniería un destino unificado para analizar el gasto en IA entre proveedores, incluidos Amazon Bedrock, Anthropic, Google Gemini, OpenAI, Vertex AI, GitHub Copilot y Cursor. Visualice el gasto total en IA junto con sus costos de infraestructura en la nube existentes, analícelo con etiquetas normalizadas, rastree anomalías de costos, identifique oportunidades de optimización y atribuya el uso a los usuarios y claves de API específicos que lo generan.

Requisitos previos

Para usar Costos de IA, debe tener configurado al menos uno de los siguientes proveedores compatibles para Cloud Cost Management:

Proveedor de IAMétodo de configuración
Amazon BedrockIntegración con AWS
Amazon SageMakerIntegración con AWS
AnthropicIntegración SaaS
Azure FoundryIntegración con Azure
Google GeminiIntegración con Google Cloud
OpenAIIntegración SaaS
Vertex AIIntegración con Google Cloud
GitHub CopilotGitHub Copilot
CursorCursor

Resumen de costos de IA

Después de conectar sus proveedores de IA, navegue a Cloud Cost > Summarize > AI para visualizar la página de resumen de costos de IA.

El panel de resumen de costos de IA, que muestra las tendencias de gasto diario durante un período de un mes, una lista de los principales impulsores de costos y un gráfico de anomalía.

La página de resumen de costos de IA proporciona:

  • Costo total de IA: Costo de IA agregado y cambio de costo durante el período de tiempo seleccionado.
  • Costo diario de IA: Tendencias de costos diarios en los proveedores seleccionados durante el período de tiempo seleccionado. Use el menú desplegable Filter to para definir qué proveedores aparecen en el gráfico.
  • Principales impulsores de costos: Los modelos, proyectos, servicios y usuarios que generan la mayor parte del gasto.
  • Anomalías de costos de IA activas: Anomalías de costos detectadas de forma proactiva en todos los proveedores conectados. Seleccione una anomalía para abrir un panel lateral con más detalles y opciones para realizar más acciones.
  • Recomendaciones de costos de IA: Recomendaciones de costos y oportunidades de optimización detectadas en todos los proveedores conectados. Seleccione una recomendación para abrir un panel lateral con más detalles y opciones para realizar más acciones.
  • Paneles de costos de IA: Plantillas de panel listas para usar para cada proveedor compatible, que combinan datos de costos con señales de uso como el consumo de tokens, la distribución de modelos y el análisis de usuario.

Etiquetas de IA normalizadas

Los datos de costos de IA de todos los proveedores compatibles se normalizan en un conjunto coherente de etiquetas. Utilice estas etiquetas para filtrar, agrupar, comparar y planificar el gasto en IA en paneles, monitores, presupuestos, pronósticos y otras herramientas de Datadog. Utilice Cloud Cost Explorer para consultar y comparar el gasto entre proveedores sin necesidad de escribir lógica por proveedor.

Las siguientes etiquetas están disponibles para todos los proveedores de IA compatibles:

Nombre de la etiqueta                                   Descripción de la etiqueta
providernameEl proveedor de IA.
modelEl identificador del modelo de IA (por ejemplo, claude-opus-4-6, gpt-4.1).
model_nameEl nombre del modelo legible por humanos (por ejemplo, Claude Opus 4.6).
token_directionSi los tokens se están consumiendo (entrada) o generando (salida) dentro de un servicio o aplicación.
token_categoryLa categoría específica de tokens consumidos, como tokens de entrada, tokens de salida o tokens relacionados con operaciones de almacenamiento en caché y búsqueda (por ejemplo, cached input, cache write, standard input, output).
projectEl proyecto, espacio de trabajo o entorno al que pertenecen los costos de IA.

Atribuir el gasto de IA a las fuentes

Las reglas de asignación listas para usar (OOTB) 12 utilizan datos de observabilidad de Datadog para atribuir los costos de IA a los usuarios, claves de API y otras fuentes que los generaron. Las reglas de asignación OOTB no requieren configuración y están disponibles para Anthropic y OpenAI. La asignación a nivel de usuario también es compatible con Cursor.

Las siguientes etiquetas están disponibles a través de las reglas de asignación OOTB:

    • api_key_id
    • api_key_name
    • context_window
    • model
    • model_id
    • org_id
    • org_name
    • service_tier
    • user_email
    • user_id
    • user_name
    • workspace_id
    • workspace_name
    • account_id
    • account_name
    • api_key_id
    • batch
    • endpoint
    • model
    • org_id
    • project_id
    • project_name
    • user_email
    • user_id

    Configure Tag Pipelines para asignar etiquetas OOTB (como user_email) a equipos, servicios o unidades de negocio para informes agregados:

    La página de Configuración de reglas de Tag Pipelines, que muestra los valores de user_email asignados a valores de equipo a través de una tabla de referencia existente, y opciones adicionales de asignación de etiquetas.

    Después de la asignación, el gasto atribuido aparece en los paneles específicos del proveedor y en los Cost Reports:

    Un panel específico del proveedor con un gráfico de barras apiladas que muestra el gasto diario del proveedor atribuido por equipo y nombre de modelo, y una lista de resumen de las atribuciones de gasto.

    Lecturas adicionales

    Documentación, enlaces y artículos útiles adicionales:

    Cloud Cost ManagementDOCUMENTACIÓN more more Costos de SaaS e IADOCUMENTACIÓN more more Reglas de asignación personalizadasDOCUMENTACIÓN more more Tag PipelinesDOCUMENTACIÓN more more InformesDOCUMENTACIÓN more more Monitores de Cloud CostDOCUMENTACIÓN more more PresupuestosDOCUMENTACIÓN more more PronósticoDOCUMENTACIÓN more more Atribuya los costos de IA entre proveedores con Datadog Cloud Cost ManagementBLOG more more Hacer visibles los costos de tokens de agentes en producciónBLOG more more Responda cualquier pregunta sobre costos más rápido con la habilidad Cloud Cost en Bits Chat.BLOG more more Cómo Datadog ahorra más de $1 millón cada mes optimizando el uso de IABLOG more more Más allá de la era de la IA de $1: Cómo las agencias federales pueden construir la evidencia para las renovaciones del año fiscal 2027BLOG more more Administre los costos de Cursor con Datadog Cloud Cost ManagementBLOG more more