Google Gemini

Supported OS Linux Windows Mac OS

概要

Google Gemini を使用して、チャット ボットやデータ抽出ツールなどの LLM を活用するアプリケーションを監視、トラブル シューティング、評価します。

LLM アプリケーションを構築している場合は、Datadog の LLM Observability を使用して問題の根本原因を調査し、運用パフォーマンスを監視し、LLM アプリケーションの品質、プライバシー、安全性を評価してください。

トレースの調査方法の例については、LLM Observability のトレース ビューの動画 を参照してください。

セットアップ

LLM Observability: Google Gemini を使用して LLM アプリケーションのエンド ツー エンドの可視性を実現

LLM Observability はさまざまな環境で有効化できます。ご利用のシナリオに応じて適切なセットアップに従ってください。

Python 向けのインストール

Datadog Agent がない場合:
  1. ddtrace パッケージをインストール:
  pip install ddtrace
  1. Agentless モードを有効にして、次のコマンドでアプリケーションを起動:
  DD_SITE=<YOUR_DATADOG_SITE> DD_API_KEY=<YOUR_API_KEY> DD_LLMOBS_ENABLED=1 DD_LLMOBS_AGENTLESS_ENABLED=1 DD_LLMOBS_ML_APP=<YOUR_ML_APP_NAME> ddtrace-run python <YOUR_APP>.py
すでに Datadog Agent をインストール済みの場合:
  1. Agent が実行中で、APM と StatsD が有効になっていることを確認します。たとえば、Docker では次のコマンドを使用します:
docker run -d \
  --cgroupns host \
  --pid host \
  -v /var/run/docker.sock:/var/run/docker.sock:ro \
  -v /proc/:/host/proc/:ro \
  -v /sys/fs/cgroup/:/host/sys/fs/cgroup:ro \
  -e DD_API_KEY=<DATADOG_API_KEY> \
  -p 127.0.0.1:8126:8126/tcp \
  -p 127.0.0.1:8125:8125/udp \
  -e DD_DOGSTATSD_NON_LOCAL_TRAFFIC=true \
  -e DD_APM_ENABLED=true \
  gcr.io/datadoghq/agent:latest
  1. まだでなければ、ddtrace パッケージをインストール:
  pip install ddtrace
  1. ddtrace-run コマンドでアプリケーションを起動して、トレーシングを自動的に有効化:
   DD_SITE=<YOUR_DATADOG_SITE> DD_API_KEY=<YOUR_API_KEY> DD_LLMOBS_ENABLED=1 DD_LLMOBS_ML_APP=<YOUR_ML_APP_NAME> ddtrace-run python <YOUR_APP>.py

注: Agent がカスタム ホストまたはポートで実行されている場合は、DD_AGENT_HOST と DD_TRACE_AGENT_PORT を適切に設定してください。

サーバーレス環境で LLM Observability を実行している場合:

次の環境変数を設定して LLM Observability を有効化:

   DD_SITE=<YOUR_DATADOG_SITE> DD_API_KEY=<YOUR_API_KEY> DD_LLMOBS_ENABLED=1 DD_LLMOBS_ML_APP=<YOUR_ML_APP_NAME>

注: サーバーレス環境では、サーバーレス関数の実行が終了すると Datadog が自動的にスパンをフラッシュします。

Google Gemini の自動トレーシング

Google Gemini インテグレーションは、Google AI Python SDK のコンテンツ生成呼び出しに対する自動トレーシングを提供します。これにより、Google Gemini の各種操作について、レイテンシ、エラー、入力および出力メッセージ、トークン使用量が取得されます。

同期および非同期の Google Gemini 操作の両方で、次のメソッドがトレースされます:

  • コンテンツ生成 (ストリーム呼び出しを含む): model.generate_content(), model.generate_content_async()
  • チャット メッセージ: chat.send_message(), chat.send_message_async()

これらのメソッドに追加のセットアップは不要です。

検証

アプリケーション ログでスパンが正常に作成されていることを確認し、LLM Observability がスパンを正しく取得していることを検証します。ddtrace インテグレーションの状態を確認するには、次のコマンドを実行します:

ddtrace-run --info

セットアップが正しいことを確認するため、次のメッセージを探してください:

Agent error: None
デバッグ

セットアップ時に問題が発生した場合は、--debug フラグを指定してデバッグ ロギングを有効化してください:

ddtrace-run --debug

これにより、Google Gemini のトレースに関する問題を含む、データ送信やインスツルメンテーションに関連するエラーが表示されます。

収集データ

メトリクス

Google Gemini インテグレーションにはメトリクスは含まれていません。

サービス チェック

Google Gemini インテグレーションにはサービス チェックは含まれていません。

イベント

Google Gemini インテグレーションにはイベントは含まれていません。

トラブル シューティング

お困りの場合は Datadog サポート までお問い合わせください。