AI Guard n'est pas disponible dans le site.

AI Guard peut évaluer automatiquement les appels LLM effectués via des packages de l’écosystème IA pris en charge, sans nécessiter d’appels API manuels. Lorsque votre application utilise l’un des packages pris en charge, le SDK Datadog l’instrumente pour évaluer automatiquement ces appels via AI Guard. Aucune modification de code n’est requise.

Frameworks et bibliothèques pris en charge

PackageVersions prises en chargeVersion du SDK
LangChain>= 0.1.20>= 3.14.0
OpenAI>= 1.102.0>= 4.10.0
Anthropic>= 0.28.0>= 4.11.0
PackageVersions prises en chargeVersion du SDK
AI SDKv6>= 5.95.0
OpenAI>= 4.87.0>= 5.105.0
Anthropic>= 0.14.0>= 6.11.0
PackageVersions prises en chargeVersion du SDK
RubyLLM>= 1.0.0>= 2.28.0

Set up the Datadog Agent

SDKs use the Datadog Agent to send AI Guard data to Datadog. The Agent must be running and accessible to your application.

If you don't use the Datadog Agent, the AI Guard evaluator API still works, but you can't see AI Guard traces in Datadog.

Required environment variables

Set the following environment variables in your application:

VariableValue
DD_AI_GUARD_ENABLEDtrue
DD_API_KEY<YOUR_API_KEY>
DD_APP_KEY<YOUR_APPLICATION_KEY>
DD_ENV<YOUR_ENVIRONMENT>
DD_SERVICE<YOUR_SERVICE>
DD_TRACE_ENABLEDtrue

By default, automatic integrations follow the blocking configuration set in the AI Guard service settings. To disable blocking for a specific service, set DD_AI_GUARD_BLOCK to false (equivalent to the block option in the SDK and REST API):

VariableValue
DD_AI_GUARD_BLOCKfalse

Intégrations

Python

L’intégration LangChain applique automatiquement les évaluations AI Guard aux appels effectués via le LangChain Python SDK.

Opérations suivies

AI Guard évalue automatiquement les opérations LangChain suivantes :

  • LLMs :
    • llm.invoke(), llm.ainvoke()
  • Modèles de chat :
    • chat_model.invoke(), chat_model.ainvoke()
  • Outils :
    • BaseTool.invoke(), BaseTool.ainvoke()

L’intégration OpenAI applique automatiquement les évaluations AI Guard aux appels effectués via le OpenAI Python SDK.

Opérations suivies

AI Guard évalue automatiquement les opérations OpenAI suivantes :

  • Chat completions :
    • client.chat.completions.create()
    • client.chat.completions.parse()
  • Responses API :
    • client.responses.create()
    • client.responses.parse()

L’intégration Anthropic applique automatiquement les évaluations AI Guard aux appels effectués via le Anthropic Python SDK.

Opérations suivies

AI Guard évalue automatiquement les opérations Anthropic suivantes :

  • Messages :
    • client.messages.create()
    • client.messages.stream()

Pour le package anthropic >= 0.37.0, AI Guard évalue également les opérations de messages bêta suivantes :

  • Messages bêta :
    • client.beta.messages.create()
    • client.beta.messages.stream()

Node.js

L’intégration AI SDK applique automatiquement les évaluations AI Guard à la génération de texte et d’objets, aux embeddings et aux appels d’outils.

Opérations suivies

L’intégration OpenAI applique automatiquement les évaluations AI Guard aux appels effectués via le OpenAI Node.js SDK.

Opérations suivies

AI Guard évalue automatiquement les opérations OpenAI suivantes :

Remarque : Les requêtes en streaming (stream: true) ne sont pas évaluées par AI Guard.

Ruby

L’intégration RubyLLM applique automatiquement les évaluations AI Guard aux messages de chat et aux appels d’outils.

Opérations suivies

AI Guard évalue automatiquement les opérations RubyLLM suivantes :

Lectures complémentaires

Documentation, liens et articles supplémentaires utiles: