개요

이 가이드에서는 Datadog에서 Agent Observability와 APM을 모두 사용하여 Agent Observability와 APM 스팬을 상호 연결하는 방법을 설명합니다.

Agent Observability로 LLM 특화 작업을 계측하고 APM으로 더 폭넓은 애플리케이션을 계측하면 다음을 수행할 수 있습니다.

• 종합적인 가시성 이해: 전체 애플리케이션 컨텍스트 내에서 LLM 애플리케이션의 업스트림 및 다운스트림 요청을 살펴봅니다.
• APM에서 Agent Observability 자세히 살펴보기: 애플리케이션 문제가 OpenAI 호출과 같은 LLM 특화 애플리케이션에 국한된 것인지 조사합니다.

설정

Agent Observability SDK는 APM의 dd-tracer를 기반으로 구축되었습니다. 이를 통해 Application Performance Monitoring(APM)과 함께 Agent Observability를 사용할 수 있습니다.

Python용 Agent Observability SDK를 APM의 dd-tracer와 함께 사용하는 경우, 추가 설정 없이 Datadog APM과 Agent Observability의 스팬 간을 탐색할 수 있습니다.

APM용 dd-tracer와 함께 Agent Observability API를 사용하는 경우 다음 단계를 따르세요.

1. 적절한 메서드를 사용해 트레이서에서 스팬 ID를 가져옵니다(예: Go 트레이서의 경우 span.Context().SpanID() 사용).
2. 모든 Agent Observability API 요청에 캡처된 스팬 ID를 포함합니다. 이렇게 하면 Datadog에서 APM 및 Agent Observability 스팬이 연결됩니다.

스팬 간 탐색

이 통합을 사용하면 애플리케이션 스택 전반에서 데이터를 상호 연결하고 LLM 애플리케이션이 다른 구성 요소와 어떻게 상호 작용하는지 이해할 수 있습니다. 또한 문제를 더 신속하게 해결하고 애플리케이션 성능을 최적화할 수 있습니다.

Agent Observability에서 APM으로 전환

애플리케이션 생태계 내 LLM 운영의 더 폭넓은 맥락을 이해하려면 Agent Observability Explorer에서 Agent Observability 스팬을 선택하고 APM span을 클릭하여 관련 APM 스팬으로 이동하세요.

APM에서 Agent Observability로 전환

LLM 특화 인사이트에 액세스하려면 Trace Explorer에서 APM 스팬을 선택하고 Info 탭의 Agent Observability 섹션에서 View Span을 클릭하여 해당 Agent Observability 스팬으로 이동하세요.

추가 자료

추가적인 유용한 설명서, 링크 및 기사:

Agent Observability 스팬에 대해 알아보기설명서 APM 스팬에 대해 알아보기설명서 RAG 기반 LLM 애플리케이션 문제 해결하기블로그 LLM Observability로 조사하기학습 센터