概要

このガイドでは、Datadog で Agent Observability と APM の両方を使用して、Agent Observability と APM のスパンを関連付ける方法を説明します。

LLM 固有の操作を Agent Observability で、より広範なアプリケーションを APM でインスツルメンテーションすることで、次のことが可能になります。

• エンドツーエンドの可視性を得る: アプリケーション全体のコンテキストで、LLM アプリケーションの上流および下流のリクエストを詳しく調べます。
• APM から Agent Observability へ深く掘り下げる: アプリケーションの問題が、OpenAI の呼び出しなど、LLM 固有のアプリケーションに特有のものかどうかを調べます。

セットアップ

Agent Observability SDK は、APM の dd-tracer を基に作成されます。そのため、Agent Observability は Application Performance Monitoring (APM) と併用できるようになっています。

Python 用 Agent Observability SDK を APM の dd-tracer(トレーサー) と併用している場合は、追加のセットアップなしで Datadog APM と Agent Observability のスパン間を移動できます。

Agent Observability API を APM 用の dd-tracer と併用している場合は、次のようにします。

1. トレーサーからスパン ID を取得するための適切なメソッドを使用します (例: Go トレーサーの場合は span.Context().SpanID() を使用します)。
2. すべての Agent Observability API リクエストに、キャプチャされたスパン ID を含めます。こうすると、Datadog で APM のスパンと Agent Observability のスパンがリンクされます。

スパン間を移動する

このインテグレーションを使用すると、アプリケーションスタック全体でデータを関連付け、LLM アプリケーションがほかのコンポーネントとどのように相互作用しているかを把握できます。また、問題をより迅速に解決し、アプリケーションのパフォーマンスを最適化することもできます。

Agent Observability から APM へ

アプリケーションエコシステム内での LLM 操作のより広範なコンテキストを理解するには、Agent Observability エクスプローラーで Agent Observability のスパンを選択し、APM spanをクリックして、関連する APM スパンに移動します。

APM から Agent Observability へ

LLM 固有のインサイトを確認するには、Trace Explorer で APM のスパンを選択し、[Info] タブの [Agent Observability] セクションにある View Span をクリックして、対応する Agent Observability のスパンに移動します。

参考資料

役立つドキュメント、リンク、記事:

Agent Observability のスパンについて学ぶドキュメント APM のスパンについて学ぶドキュメント RAG ベースの LLM アプリケーションのトラブルシューティングブログ LLM Observability で調査するラーニングセンター