Google Gemini

Supported OS Linux Windows Mac OS

To find out if this integration is available in your organization, see your Datadog Integrations page or ask your organization administrator.

To initiate an exception request to enable this integration for your organization, email support@ddog-gov.com.

概要

Google Gemini を使用して、チャット ボットやデータ抽出ツールなどの LLM を活用するアプリケーションを監視、トラブル シューティング、評価します。

LLM アプリケーションを構築している場合は、Datadog の LLM Observability を使用して問題の根本原因を調査し、運用パフォーマンスを監視し、LLM アプリケーションの品質、プライバシー、安全性を評価してください。

トレースの調査方法の例については、LLM Observability のトレース ビューの動画 を参照してください。

セットアップ

LLM Observability: Google Gemini を使用して LLM アプリケーションのエンド ツー エンドの可視性を実現

LLM Observability はさまざまな環境で有効化できます。ご利用のシナリオに応じて適切なセットアップに従ってください。

Python 向けのインストール

Datadog Agent がない場合:
  1. ddtrace パッケージをインストール:
  pip install ddtrace
  1. Agentless モードを有効にして、次のコマンドでアプリケーションを起動:
  DD_SITE=<YOUR_DATADOG_SITE> DD_API_KEY=<YOUR_API_KEY> DD_LLMOBS_ENABLED=1 DD_LLMOBS_AGENTLESS_ENABLED=1 DD_LLMOBS_ML_APP=<YOUR_ML_APP_NAME> ddtrace-run python <YOUR_APP>.py
すでに Datadog Agent をインストール済みの場合:
  1. Agent が実行中で、APM と StatsD が有効になっていることを確認します。たとえば、Docker では次のコマンドを使用します:
docker run -d \
  --cgroupns host \
  --pid host \
  -v /var/run/docker.sock:/var/run/docker.sock:ro \
  -v /proc/:/host/proc/:ro \
  -v /sys/fs/cgroup/:/host/sys/fs/cgroup:ro \
  -e DD_API_KEY=<DATADOG_API_KEY> \
  -p 127.0.0.1:8126:8126/tcp \
  -p 127.0.0.1:8125:8125/udp \
  -e DD_DOGSTATSD_NON_LOCAL_TRAFFIC=true \
  -e DD_APM_ENABLED=true \
  gcr.io/datadoghq/agent:latest
  1. まだでなければ、ddtrace パッケージをインストール:
  pip install ddtrace
  1. ddtrace-run コマンドでアプリケーションを起動して、トレーシングを自動的に有効化:
   DD_SITE=<YOUR_DATADOG_SITE> DD_API_KEY=<YOUR_API_KEY> DD_LLMOBS_ENABLED=1 DD_LLMOBS_ML_APP=<YOUR_ML_APP_NAME> ddtrace-run python <YOUR_APP>.py

注: Agent がカスタム ホストまたはポートで実行されている場合は、DD_AGENT_HOST と DD_TRACE_AGENT_PORT を適切に設定してください。

サーバーレス環境で LLM Observability を実行している場合:

次の環境変数を設定して LLM Observability を有効化:

   DD_SITE=<YOUR_DATADOG_SITE> DD_API_KEY=<YOUR_API_KEY> DD_LLMOBS_ENABLED=1 DD_LLMOBS_ML_APP=<YOUR_ML_APP_NAME>

注: サーバーレス環境では、サーバーレス関数の実行が終了すると Datadog が自動的にスパンをフラッシュします。

Google Gemini の自動トレーシング

Google Gemini インテグレーションは、Google AI Python SDK のコンテンツ生成呼び出しに対する自動トレーシングを提供します。これにより、Google Gemini の各種操作について、レイテンシ、エラー、入力および出力メッセージ、トークン使用量が取得されます。

同期および非同期の Google Gemini 操作の両方で、次のメソッドがトレースされます:

  • コンテンツ生成 (ストリーム呼び出しを含む): model.generate_content(), model.generate_content_async()
  • チャット メッセージ: chat.send_message(), chat.send_message_async()

これらのメソッドに追加のセットアップは不要です。

検証

アプリケーション ログでスパンが正常に作成されていることを確認し、LLM Observability がスパンを正しく取得していることを検証します。ddtrace インテグレーションの状態を確認するには、次のコマンドを実行します:

ddtrace-run --info

セットアップが正しいことを確認するため、次のメッセージを探してください:

Agent error: None
デバッグ

セットアップ時に問題が発生した場合は、--debug フラグを指定してデバッグ ロギングを有効化してください:

ddtrace-run --debug

これにより、Google Gemini のトレースに関する問題を含む、データ送信やインスツルメンテーションに関連するエラーが表示されます。

収集データ

メトリクス

Google Gemini インテグレーションにはメトリクスは含まれていません。

サービス チェック

Google Gemini インテグレーションにはサービス チェックは含まれていません。

イベント

Google Gemini インテグレーションにはイベントは含まれていません。

トラブル シューティング

お困りの場合は Datadog サポート までお問い合わせください。