Automatic Integrations

AI Guard no está disponible en el sitio.

AI guard puede evaluar automáticamente las llamadas a LLM realizadas a través de paquetes compatibles del ecosistema de IA, sin necesidad de realizar llamadas a la API de forma manual. Cuando su aplicación utiliza uno de los paquetes compatibles, el SDK de Datadog lo instrumenta para evaluar esas llamadas a través de AI guard automáticamente. No se requieren cambios en el código.

Marcos de trabajo y bibliotecas compatibles

PaqueteVersiones compatiblesVersión del SDK
LangChain>= 0.1.20>= 3.14.0
OpenAI>= 1.102.0>= 4.10.0
Anthropic>= 0.28.0>= 4.11.0
PaqueteVersiones compatiblesVersión del SDK
AI SDKv6>= 5.95.0
OpenAI>= 4.87.0>= 5.105.0
Anthropic>= 0.14.0>= 6.11.0
PaqueteVersiones compatiblesVersión del SDK
RubyLLM>= 1.0.0>= 2.28.0

Set up the Datadog Agent

SDKs use the Datadog Agent to send AI Guard data to Datadog. The Agent must be running and accessible to your application.

If you don't use the Datadog Agent, the AI Guard evaluator API still works, but you can't see AI Guard traces in Datadog.

Required environment variables

Set the following environment variables in your application:

VariableValue
DD_AI_GUARD_ENABLEDtrue
DD_API_KEY<YOUR_API_KEY>
DD_APP_KEY<YOUR_APPLICATION_KEY>
DD_ENV<YOUR_ENVIRONMENT>
DD_SERVICE<YOUR_SERVICE>
DD_TRACE_ENABLEDtrue

By default, automatic integrations follow the blocking configuration set in the AI Guard service settings. To disable blocking for a specific service, set DD_AI_GUARD_BLOCK to false (equivalent to the block option in the SDK and REST API):

VariableValue
DD_AI_GUARD_BLOCKfalse

Integrations

Python

La integración de LangChain aplica automáticamente evaluaciones de AI Guard a las llamadas realizadas a través del SDK de Python de LangChain.

Operaciones rastreadas

AI Guard evalúa automáticamente las siguientes operaciones de LangChain:

  • LLMs:
    • llm.invoke(), llm.ainvoke()
  • Chat models:
    • chat_model.invoke(), chat_model.ainvoke()
  • Tools:
    • BaseTool.invoke(), BaseTool.ainvoke()

La integración de OpenAI aplica automáticamente evaluaciones de AI guard a las llamadas realizadas a través del OpenAI Python SDK.

Operaciones rastreadas

AI guard evalúa automáticamente las siguientes operaciones de OpenAI:

La integración con Anthropic aplica automáticamente evaluaciones de AI guard a las llamadas realizadas a través del Anthropic Python SDK.

Operaciones rastreadas

AI guard evalúa automáticamente las siguientes operaciones de Anthropic:

  • Messages:
    • client.messages.create()
    • client.messages.stream()

Para el paquete anthropic >= 0.37.0, AI guard también evalúa las siguientes operaciones de mensajes beta:

  • Beta messages:
    • client.beta.messages.create()
    • client.beta.messages.stream()

Node.js

La integración con AI SDK aplica automáticamente evaluaciones de AI guard a la generación de texto y objetos, embeddings y llamadas a herramientas.

Operaciones rastreadas

La integración con OpenAI aplica automáticamente evaluaciones de AI guard a las llamadas realizadas a través del OpenAI Node.js SDK.

Operaciones rastreadas

AI guard evalúa automáticamente las siguientes operaciones de OpenAI:

Nota: Las solicitudes de streaming (stream: true) no son evaluadas por AI guard.

Ruby

La integración de RubyLLM aplica automáticamente evaluaciones de AI guard a los mensajes de chat y a las llamadas a herramientas.

Operaciones rastreadas

AI guard evalúa automáticamente las siguientes operaciones de RubyLLM:

Lecturas adicionales

Más enlaces, artículos y documentación útiles: