Datadog fournit des modèles LLM-as-a-judge pour les évaluations suivantes : Failure to Answer, Goal Completeness, Hallucination, Prompt Injection, Sentiment, Tool Argument Correctness, Tool Selection, Topic Relevancy et Toxicity. Après avoir sélectionné un modèle, vous pouvez modifier n’importe quel aspect de l’évaluation.

Pour connaître les meilleures pratiques et les détails sur la façon de créer des évaluations LLM-as-a-judge, lisez Create a custom LLM-as-a-judge evaluation.

Pour sélectionner un modèle :

1. Dans Datadog, accédez à la page Agent Observability Evaluations
2. Cliquez sur le bouton Create Evaluation
3. Sélectionnez le modèle de votre choix

4. Sélectionnez le fournisseur d’intégration, le compte et le modèle que vous souhaitez utiliser.
   • Remarque : Certains fournisseurs d’intégration nécessitent des étapes supplémentaires (comme la sélection d’une région pour Amazon Bedrock ou d’un projet et d’un emplacement pour VertexAI).
5. (Facultatif) Sélectionnez l’application pour laquelle vous souhaitez exécuter l’évaluation et définissez les filtres de span souhaités.

Évaluations

Échec de réponse

Les évaluations d’échec de réponse identifient les cas où le LLM ne parvient pas à fournir une réponse appropriée, ce qui peut se produire en raison de limitations dans les connaissances ou la compréhension du LLM, d’une ambiguïté dans la requête de l’utilisateur ou de la complexité du sujet.

Configurer une évaluation d’échec de réponse

Datadog fournit les catégories d’échec de réponse suivantes, répertoriées dans le tableau ci-dessous. Le modèle définit par défaut Empty Response et Refusal Response comme étant en échec de réponse, mais cela peut être configuré en fonction de votre cas d’utilisation spécifique.

Hallucination

Les évaluations d’hallucination identifient les cas où le LLM fait une affirmation qui contredit le contexte d’entrée fourni. Ce check permet de s’assurer que vos applications RAG restent ancrées dans les données récupérées et ne fabriquent pas d’informations.

Configurer une évaluation d’hallucination

Utilisez les annotations Prompt Tracking pour suivre vos prompts et les configurer pour la détection d’hallucinations. Annotez vos spans LLM avec la requête utilisateur et le contexte afin que la détection d’hallucinations puisse évaluer les sorties du modèle par rapport aux données récupérées.

from ddtrace.llmobs import LLMObs
from ddtrace.llmobs.types import Prompt

# if your llm call is auto-instrumented...
with LLMObs.annotation_context(
        prompt=Prompt(
            id="generate_answer_prompt",
            template="Generate an answer to this question :{user_question}. Only answer based on the information from this article : {article}",
            variables={"user_question": user_question, "article": article},
            rag_query_variables=["user_question"],
            rag_context_variables=["article"]
        ),
        name="generate_answer"
):
    oai_client.chat.completions.create(...) # autoinstrumented llm call

# if your llm call is manually instrumented ...
@llm(name="generate_answer")
def generate_answer():
  ...
  LLMObs.annotate(
            prompt=Prompt(
                id="generate_answer_prompt",
                template="Generate an answer to this question :{user_question}. Only answer based on the information from this article : {article}",
                variables={"user_question": user_question, "article": article},
                rag_query_variables=["user_question"],
                rag_context_variables=["article"]
            ),
  )

Le dictionnaire variables doit contenir les paires clé-valeur que votre application utilise pour construire le prompt d’entrée du LLM (par exemple, les messages pour une requête de complétion de chat OpenAI). Utilisez rag_query_variables et rag_context_variables pour spécifier quelles variables représentent la requête utilisateur et lesquelles représentent le contexte de récupération. Une liste de variables est autorisée pour prendre en compte les cas où plusieurs variables constituent le contexte (par exemple, plusieurs articles récupérés à partir d’une base de connaissances).

La détection d’hallucinations ne s’exécute pas si la requête RAG, le contexte RAG ou la sortie du span est vide.

Le suivi des prompts est disponible sur Python à partir de la version 3.15. Il nécessite également un ID pour le prompt et le modèle configuré pour surveiller et suivre vos versions de prompt. Vous pouvez trouver plus d’exemples de suivi et d’instrumentation de prompts dans la documentation du SDK.

La détection d’hallucination fait une distinction entre deux types d’hallucinations :

Les contradictions sont toujours détectées, tandis que les allégations non étayées peuvent être incluses en option. Pour les cas d’utilisation sensibles, nous recommandons d’inclure les allégations non étayées.

Injection de prompt

Les évaluations d’injection de prompt identifient les tentatives d’auteurs non autorisés ou malveillants visant à manipuler les réponses du LLM ou à rediriger la conversation d’une manière non prévue par l’auteur original. Ce check préserve l’intégrité et l’authenticité des interactions entre les utilisateurs et le LLM.

Configurer une évaluation d’injection de prompt

Vous pouvez configurer l’évaluation d’injection de prompt pour utiliser des catégories spécifiques d’injection de prompt, listées dans le tableau suivant. Le modèle est configuré par défaut pour que chaque catégorie soit signalée comme une tentative d’injection de prompt.

Sentiment

Les évaluations de sentiment vous aident à comprendre l’humeur générale de la conversation, à mesurer la satisfaction des utilisateurs, à identifier les tendances de sentiment et à interpréter les réponses émotionnelles. Cette évaluation classifie le sentiment du texte, fournissant des informations pour améliorer les expériences utilisateur et adapter les réponses pour mieux répondre aux besoins des utilisateurs.

Pertinence du sujet

Les évaluations de pertinence du sujet identifient et signalent les entrées utilisateur qui s’écartent des sujets d’entrée acceptables configurés. Cela garantit que les interactions restent pertinentes par rapport à l’objectif et au périmètre désignés du LLM.

Vous pouvez fournir des sujets pour cette évaluation en remplissant le modèle et en remplaçant <<PLEASE WRITE YOUR TOPICS HERE>> par les sujets souhaités.

Les sujets peuvent contenir plusieurs mots et doivent être aussi spécifiques et descriptifs que possible. Par exemple, pour une application LLM conçue pour la gestion des incidents, ajoutez « observabilité », « génie logiciel » ou « résolution d’incidents ». Si votre application gère les demandes des clients pour une boutique en ligne, vous pouvez utiliser « Questions des clients sur l’achat de meubles sur une boutique en ligne ».

Toxicité

Les évaluations de toxicité évaluent chaque invite d’entrée et de sortie de l’utilisateur et la réponse de l’application LLM pour détecter tout contenu toxique. Cette évaluation identifie et signale le contenu toxique pour garantir que les interactions restent respectueuses et sûres.

Configurer une évaluation de la toxicité

Vous pouvez configurer les évaluations de toxicité pour utiliser des catégories spécifiques de toxicité, listées dans le tableau suivant. Le modèle est configuré par défaut pour que chaque catégorie, à l’exception du langage grossier et de l’insatisfaction de l’utilisateur, soit sélectionnée pour être signalée comme toxique.

Les catégories de toxicité dans ce tableau sont basées sur : Banko et al. (2020), Inan et al. (2023), Ghosh et al. (2024), Zheng et al. (2024).

Exhaustivité de l’objectif

Un agent peut appeler des outils correctement mais échouer tout de même à atteindre l’objectif visé par l’utilisateur. Cette évaluation vérifie si votre chatbot LLM peut mener à bien une session complète en répondant efficacement aux besoins de l’utilisateur du début à la fin. Cette mesure d’exhaustivité sert d’indicateur pour évaluer la satisfaction de l’utilisateur au cours d’une interaction à plusieurs tours et est particulièrement précieuse pour les applications de chatbot LLM.

Configurer une évaluation de l’exhaustivité de l’objectif

Cette évaluation fonctionne en analysant une session pour déterminer si toutes les intentions de l’utilisateur ont été traitées avec succès. L’évaluation renvoie une analyse détaillée incluant les intentions résolues, les intentions non résolues et le raisonnement pour l’évaluation. Une session est considérée comme incomplète si plus de 50 % des intentions identifiées restent non résolues.

Le span doit contenir des input_data et output_data significatifs qui représentent l’état final de la session. Cela aide l’évaluation à comprendre le contexte et les résultats de la session lors de l’évaluation de l’exhaustivité.

Sélection d’outils

Cette évaluation vérifie si l’agent a sélectionné avec succès les outils appropriés pour répondre à la demande de l’utilisateur. Des choix d’outils incorrects ou non pertinents entraînent des appels inutiles, une latence plus élevée et des échecs de tâches.

Configurez une évaluation de sélection d’outils

1. Assurez-vous d’exécuter dd-trace v3.12+.
2. Instrumentez votre agent avec les outils disponibles. L’exemple ci-dessous utilise le SDK OpenAI Agents pour illustrer comment les outils sont mis à la disposition de l’agent et de l’évaluation :
3. Activez l’évaluation du modèle ToolSelection dans l’interface utilisateur Datadog en créant une nouvelle évaluation ou en modifiant une évaluation existante.

Cette évaluation est prise en charge dans dd-trace version 3.12+. L’exemple ci-dessous utilise le SDK OpenAI Agents pour illustrer comment les outils sont mis à la disposition de l’agent et de l’évaluation. Consultez le code complet et les packages requis pour exécuter cette évaluation.

from ddtrace.llmobs import LLMObs
from agents import Agent, ModelSettings, function_tool

@function_tool
def add_numbers(a: int, b: int) -> int:
    """
    Adds two numbers together.
    """
    return a + b

@function_tool
def subtract_numbers(a: int, b: int) -> int:
    """
    Subtracts two numbers.
    """
    return a - b
    

# List of tools available to the agent 
math_tutor_agent = Agent(
    name="Math Tutor",
    handoff_description="Specialist agent for math questions",
    instructions="You provide help with math problems. Please use the tools to find the answer.",
    model="o3-mini",
    tools=[
        add_numbers, subtract_numbers
    ],
)

history_tutor_agent = Agent(
    name="History Tutor",
    handoff_description="Specialist agent for history questions",
    instructions="You provide help with history problems.",
    model="o3-mini",
)

# The triage agent decides which specialized agent to hand off the task to — another type of tool selection covered by this evaluation.
triage_agent = Agent(  
    'openai:gpt-4o',
    model_settings=ModelSettings(temperature=0),
    instructions='What is the sum of 1 to 10?',  
    handoffs=[math_tutor_agent, history_tutor_agent],
)

Dépannage

• Si vous voyez fréquemment des appels d’outils non pertinents, passez en revue vos descriptions d’outils ; elles sont peut-être trop vagues pour que le LLM puisse les distinguer.
• Assurez-vous d’inclure des descriptions des outils (c’est-à-dire les citations contenant la description de l’outil sous le nom de la fonction, le SDK les analyse automatiquement comme description)

Exactitude des arguments de l’outil

Même si le bon outil est sélectionné, les arguments qui lui sont transmis doivent être valides et pertinents par rapport au contexte. Des formats d’argument incorrects (par exemple, une chaîne de caractères au lieu d’un entier) ou des valeurs non pertinentes provoquent des échecs dans l’exécution en aval.

Configurez une évaluation de l’exactitude des arguments de l’outil

1. Installez dd-trace v3.12+.
2. Instrumentez votre agent avec les outils disponibles qui nécessitent des arguments. L’exemple ci-dessous utilise le SDK Pydantic AI Agents pour illustrer comment les outils sont mis à la disposition de l’agent et de l’évaluation :

Activez l’évaluation ToolArgumentCorrectness dans l’interface utilisateur Datadog en créant une nouvelle évaluation ou en modifiant une évaluation existante.

Cette évaluation est prise en charge dans dd-trace v3.12+. L’exemple ci-dessous utilise le SDK OpenAI Agents pour illustrer comment les outils sont mis à la disposition de l’agent et de l’évaluation. Consultez le code complet et les packages requis pour exécuter cette évaluation.

import os

from ddtrace.llmobs import LLMObs
from pydantic_ai import Agent


# Define tools as regular functions with type hints
def add_numbers(a: int, b: int) -> int:
    """
    Adds two numbers together.
    """
    return a + b


def subtract_numbers(a: int, b: int) -> int:
    """
    Subtracts two numbers.
    """
    return a - b

    
def multiply_numbers(a: int, b: int) -> int:
    """
    Multiplies two numbers.
    """
    return a * b


def divide_numbers(a: int, b: int) -> float:
    """
    Divides two numbers.
    """
    return a / b


# Enable LLMObs
LLMObs.enable(
    ml_app="tool_argument_correctness_test",
    api_key=os.environ["DD_API_KEY"],
    site=os.environ["DD_SITE"],
    agentless_enabled=True,
)


# Create the Math Tutor agent with tools
math_tutor_agent = Agent(
    'openai:gpt-5-nano',
    instructions="You provide help with math problems. Please use the tools to find the answer.",
    tools=[add_numbers, subtract_numbers, multiply_numbers, divide_numbers],
)

# Create the History Tutor agent (note: gpt-5-nano doesn't exist, using gpt-4o-mini)
history_tutor_agent = Agent(
    'openai:gpt-5-nano',
    instructions="You provide help with history problems.",
)

# Create the triage agent
# Note: pydantic_ai handles handoffs differently - you'd typically use result_type 
# or custom logic to route between agents
triage_agent = Agent(
    'openai:gpt-5-nano',
    instructions=(
        'DO NOT RELY ON YOUR OWN MATHEMATICAL KNOWLEDGE, '
        'MAKE SURE TO CALL AVAILABLE TOOLS TO SOLVE EVERY SUBPROBLEM.'
    ),
    tools=[add_numbers, subtract_numbers, multiply_numbers, divide_numbers],
)


# Run the agent synchronously
result = triage_agent.run_sync(
    '''
    Help me solve the following problem:
    What is the sum of the numbers between 1 and 100?
    Make sure you list out all the mathematical operations (addition, subtraction, multiplication, division) in order before you start calling tools in that order.
    '''
)

Dépannage

• Assurez-vous que vos outils utilisent des indications de type (type hints) — l’évaluation repose sur les définitions de schéma.
• Assurez-vous d’inclure une description de l’outil (par exemple, la description entre guillemets sous le nom de la fonction), celle-ci est utilisée dans le processus d’auto-instrumentation pour analyser le schéma de l’outil
• Validez que votre prompt LLM inclut suffisamment de contexte pour une construction correcte des arguments.