Présentation

Ce guide explique comment utiliser à la fois Agent Observability et APM pour corréler les spans d’Agent Observability et d’APM dans Datadog.

En instrumentant vos opérations spécifiques aux LLM avec Agent Observability et votre application plus large avec APM, vous pouvez accomplir ce qui suit :

• Comprendre la visibilité de bout en bout : explorez les requêtes en amont et en aval de vos applications LLM dans le contexte de l’ensemble de votre application.
• Depuis APM, plongez plus profondément dans Agent Observability : déterminez si un problème avec votre application est spécifique aux applications LLM, comme un appel à OpenAI.

Configuration

Le SDK Agent Observability est basé sur le dd-tracer d’APM. Cela vous permet d’utiliser Agent Observability avec Application Performance Monitoring (APM)

Si vous utilisez le SDK Agent Observability pour Python avec dd-tracer d’APM, vous pouvez naviguer entre les spans dans Datadog APM et Agent Observability sans configuration supplémentaire.

Si vous utilisez l’API Agent Observability avec dd-tracer pour APM :

1. Utilisez la méthode appropriée pour obtenir l’ID de span à partir du traceur (par exemple, en utilisant span.Context().SpanID() pour le traceur Go).
2. Incluez les IDs de span capturés dans toutes les requêtes de l’API Agent Observability. Cela lie les spans APM et Agent Observability dans Datadog.

Naviguez entre les spans

En utilisant cette intégration, vous pouvez corréler les données de votre pile applicative et comprendre comment vos applications LLM interagissent avec d’autres composants. Vous pouvez également résoudre les problèmes plus rapidement et optimiser les performances de votre application.

De Agent Observability à APM

Pour comprendre le contexte plus large de vos opérations LLM au sein de votre écosystème applicatif, sélectionnez un span d’Agent Observability dans l’Agent Observability Explorer et cliquez sur APM span pour accéder au span APM correspondant.

De APM à Agent Observability

Pour accéder aux informations spécifiques aux LLM, sélectionnez un span APM dans l’Trace Explorer et cliquez sur View Span dans la section Agent Observability sous l’onglet Info pour accéder au span Agent Observability correspondant.

Pour aller plus loin

Documentation, liens et articles supplémentaires utiles:

En savoir plus sur les spans d'Agent ObservabilityDOCUMENTATION En savoir plus sur les spans d'APMDOCUMENTATION Dépannage des applications LLM basées sur le RAGBLOG Enquêter avec le LLM ObservabilityCENTRE D'APPRENTISSAGE