AI 비용

개요

Cloud Cost Management의 AI 비용은 FinOps 및 엔지니어링 팀이 Amazon Bedrock, Anthropic, Google Gemini, OpenAI, Vertex AI, GitHub Copilot 및 Cursor를 포함한 공급자 전반에 걸친 AI 지출을 통합적으로 분석할 수 있는 환경을 제공합니다. 기존 클라우드 인프라 비용과 함께 총 AI 지출을 확인하고, 정규화된 태그로 비용을 분석하며, 비용 이상 징후를 추적하고, 사용량의 원인을 특정 사용자 및 API 키로 귀속시킬 수 있습니다.

전제 조건

AI 비용을 사용하려면 Cloud Cost Management에서 다음 지원 공급자 중 하나 이상을 설정해야 합니다.

AI 공급자	설정 방법
Amazon Bedrock	AWS 통합
Anthropic	SaaS 통합
Google Gemini	Google Cloud 통합
OpenAI	SaaS 통합
Vertex AI	Google Cloud 통합
GitHub Copilot	GitHub Copilot
Cursor	Cursor

AI Cost Summary

AI 공급자를 연결한 후, Cloud Cost > Summarize > AI로 이동하여 AI Cost Summary 페이지를 확인합니다.

AI Cost Summary 페이지에서는 다음과 같은 내용을 확인할 수 있습니다.

총 AI 비용: 선택한 기간 동안 집계된 AI 비용 및 비용 변화.
일일 AI 비용: 선택한 기간 동안 선택된 공급자의 일일 비용 추세. 그래프에 표시할 공급자를 선택하려면 Filter to 드롭다운을 사용하세요.
주요 비용 요인: 가장 많은 지출을 발생시키는 모델, 프로젝트, 서비스 및 사용자.
활성 AI 비용 이상 징후: 연결된 모든 공급자에서 발생한 비용 이상을 선제적으로 표시합니다. 이상 징후를 선택하면 세부 정보 및 추가 작업 옵션이 포함된 사이드 패널이 열립니다.
AI 비용 대시보드: 각각의 지원되는 공급자에 대한 기본 대시보드 템플릿으로, 비용 데이터와 토큰 소비, 모델 분포 및 사용자 분석과 같은 사용 신호를 통합하여 제공합니다.

정규화된 AI 태그

지원되는 모든 공급자의 AI 비용 데이터는 일관된 태그 세트로 정규화됩니다. 이 태그를 사용하여 대시보드, 모니터링, 예산, 예측 및 기타 Datadog 도구에서 AI 지출을 필터링, 그룹화, 비교 및 계획하세요. Cloud Cost Explorer를 사용하여 공급자 간의 지출을 쿼리하고 비교하세요. 공급자별 로직을 작성할 필요는 없습니다.

다음 태그는 모든 지원 AI 공급자에서 사용할 수 있습니다.

태그 name	태그 설명
`providername`	AI 공급자입니다.
`model`	AI 모델 식별자(예: `claude-opus-4-6`, `gpt-4.1`)입니다.
`model_name`	사람이 읽을 수 있는 모델 이름(예: `Claude Opus 4.6`)입니다.
`token_direction`	서비스 또는 애플리케이션 내에서 토큰이 소비(입력)되고 있는지 또는 생성(출력)되고 있는지 여부를 알려줍니다.
`token_category`	소비된 토큰의 특정 범주입니다. 예를 들어 입력 토큰, 출력 토큰 또는 캐싱 및 검색 작업과 관련된 토큰(예: `cached input`, `cache write`, `standard input`, `output`)이 포함됩니다.
`project`	AI 비용이 속한 프로젝트, 작업 공간 또는 환경입니다.