AI Guard は、 サイトでは利用できません。

AI Guard では、手動の API 呼び出しを必要とせずに、サポートされている AI エコシステムパッケージを通じて行われた LLM 呼び出しを自動的に評価できます。アプリケーションがサポートされているパッケージのいずれかを使用している場合、その呼び出しを AI Guard で自動的に評価できるよう Datadog SDK によってインストゥルメントされます。コードの変更は必要ありません。

サポートされているフレームワークおよびライブラリ

パッケージサポートされているバージョンSDK バージョン
LangChain>= 0.1.20>= 3.14.0
OpenAI>= 1.102.0>= 4.10.0
Anthropic>= 0.28.0>= 4.11.0
パッケージサポートされているバージョンSDK バージョン
AI SDKv6>= 5.95.0
OpenAI>= 4.87.0>= 5.105.0
Anthropic>= 0.14.0>= 6.11.0
パッケージサポートされているバージョンSDK バージョン
RubyLLM>= 1.0.0>= 2.28.0

Set up the Datadog Agent

SDKs use the Datadog Agent to send AI Guard data to Datadog. The Agent must be running and accessible to your application.

If you don't use the Datadog Agent, the AI Guard evaluator API still works, but you can't see AI Guard traces in Datadog.

Required environment variables

Set the following environment variables in your application:

VariableValue
DD_AI_GUARD_ENABLEDtrue
DD_API_KEY<YOUR_API_KEY>
DD_APP_KEY<YOUR_APPLICATION_KEY>
DD_ENV<YOUR_ENVIRONMENT>
DD_SERVICE<YOUR_SERVICE>
DD_TRACE_ENABLEDtrue

By default, automatic integrations follow the blocking configuration set in the AI Guard service settings. To disable blocking for a specific service, set DD_AI_GUARD_BLOCK to false (equivalent to the block option in the SDK and REST API):

VariableValue
DD_AI_GUARD_BLOCKfalse

インテグレーション

Python

LangChain インテグレーションは、LangChain Python SDK を通じて行われる呼び出しに AI Guard 評価を自動的に適用します。

トレースされる操作

AI Guard は、以下の LangChain 操作を自動的に評価します。

OpenAI インテグレーションは、OpenAI Python SDK を通じて行われる呼び出しに AI Guard 評価を自動的に適用します。

トレースされる操作

AI Guard は、以下の OpenAI 操作を自動的に評価します。

Anthropic インテグレーションは、Anthropic Python SDK を通じて行われる呼び出しに AI Guard 評価を自動的に適用します。

トレースされる操作

AI Guard は、以下の Anthropic 操作を自動的に評価します。

  • Messages:
    • client.messages.create()
    • client.messages.stream()

anthropic パッケージが 0.37.0 以上の場合、AI Guard は以下のベータ版メッセージ操作も評価します。

  • ベータ版メッセージ:
    • client.beta.messages.create()
    • client.beta.messages.stream()

Node.js

AI SDK インテグレーションは、テキスト生成、オブジェクト生成、埋め込み、およびツール呼び出しに AI Guard 評価を自動的に適用します。

トレースされる操作

OpenAI インテグレーションは、OpenAI Node.js SDK を通じて行われる呼び出しに AI Guard 評価を自動的に適用します。

トレースされる操作

AI Guard は、以下の OpenAI 操作を自動的に評価します。

注: ストリーミングリクエスト (stream: true) は、AI Guard によって評価されません。

Ruby

RubyLLM インテグレーションは、チャットメッセージとツール呼び出しに AI Guard 評価を自動的に適用します。

トレースされる操作

AI Guard は、以下の RubyLLM 操作を自動的に評価します。

参考資料