Les contrôles d’ingestion affectent les traces envoyées par vos applications à Datadog. Les métriques APM sont toujours calculées sur la base de toutes les traces et ne sont pas affectées par les contrôles d’ingestion.
La page Ingestion Control offre une visibilité sur la configuration d’ingestion de vos applications et services. Depuis la page Ingestion Control :
Obtenez une visibilité sur la configuration d’ingestion au niveau de vos services.
Ajustez les taux d’échantillonnage des traces pour les services ou endpoints à haut débit afin de mieux gérer le budget d’ingestion.
Ajustez les taux d’échantillonnage des traces pour les services ou endpoints à faible débit ou à trafic rare afin d’accroître la visibilité.
Comprenez quels mécanismes d’ingestion sont responsables de l’échantillonnage de la plupart de vos traces.
Enquêtez sur les problèmes potentiels de configuration d’ingestion et agissez en conséquence, tels que des ressources CPU ou RAM limitées pour l’Agent.
Comprendre votre configuration d’ingestion
Utilisez les données de l’en-tête de contrôle de l’ingestion pour surveiller l’ingestion de vos traces. L’en-tête affiche la quantité totale de données ingérées au cours de la dernière heure, votre utilisation mensuelle estimée et le pourcentage de votre limite d’ingestion mensuelle allouée, calculé en fonction de votre infrastructure APM active (telle que les hosts, les tâches Fargate et les fonctions serverless).
Si l’utilisation mensuelle est inférieure à 100%, les données ingérées projetées tiennent dans votre allocation mensuelle. Une valeur d’utilisation mensuelle supérieure à 100% signifie que les données ingérées mensuelles devraient dépasser votre allocation mensuelle.
Niveaux d’ingestion par service
Le tableau des services fournit des informations sur les volumes ingérés et les paramètres d’ingestion pour chaque service :
Type
Le type de service: service web, base de données, cache, navigateur, etc.
Name
Le nom de chaque service envoyant des traces à Datadog. Le tableau contient les services racines et non racines pour lesquels des données ont été ingérées au cours de la dernière heure.
Traces ingérées/s
Nombre moyen de traces par seconde ingérées à partir du service au cours de la dernière heure.
Octets ingérés/s
Nombre moyen d’octets par seconde ingérés pour le service au cours de la dernière heure.
Octets en aval/s
Nombre moyen d’octets par seconde ingérés pour lesquels le service prend la décision d’échantillonnage. Cela inclut les octets de tous les spans des services en aval dans la pile d’appels qui suivent la décision prise au début de la trace. Les données de cette colonne sont basées sur la dimension sampling_service, définie sur les métriques datadog.estimated_usage.apm.ingested_bytes. Pour plus d’informations, consultez Métriques d’utilisation APM.
Répartition du trafic
Une répartition détaillée du trafic échantillonné et non échantillonné pour les traces commençant à partir du service. Voir Répartition du trafic pour plus d’informations.
Configuration de l’ingestion
Indique Automatic si le default head-based sampling mechanism de l’Agent s’applique. Si l’ingestion a été configurée avec des trace sampling rules, le service est marqué comme Configured ; une étiquette Local est définie lorsque la règle d’échantillonnage est appliquée à partir de la configuration dans le SDK, une étiquette Remote est définie lorsque la règle d’échantillonnage est appliquée à distance, depuis l’interface utilisateur. Pour plus d’informations sur la configuration de l’ingestion pour un service, lisez la section sur la modification du taux d’ingestion par défaut.
Infrastructure
hosts, conteneurs et fonctions sur lesquels le service s’exécute.
Statut de service
Affiche Limited Resource lorsque certains spans sont abandonnés car le Datadog Agent atteint les limites de CPU ou de RAM définies dans sa configuration, Legacy Setup lorsque certains spans sont ingérés via l’ancien App Analytics mechanism, ou OK sinon.
Filtrez la page par environnement, configuration et statut pour afficher les services pour lesquels vous devez effectuer une action. Pour réduire le volume d’ingestion global, triez le tableau par la colonne Downstream Bytes/s pour afficher les services responsables de la plus grande part de votre ingestion.
Remarque : Le tableau est alimenté par les métriques d’utilisationdatadog.estimated_usage.apm.ingested_spans et datadog.estimated_usage.apm.ingested_bytes. Ces métriques sont taguées par service, env et ingestion_reason.
Répartition du trafic
La colonne Répartition du trafic détaille la destination de toutes les traces commençant à partir du service. Elle vous donne une estimation de la part du trafic qui est ingérée et abandonnée, et pour quelles raisons.
Les données détaillées sont composées des parties suivantes :
Complete traces ingested (bleu) : Le pourcentage de traces qui ont été ingérées par Datadog.
Complete traces not retained (gris) : Le pourcentage de traces qui n’ont pas été ingérées par Datadog. Certaines traces peuvent être abandonnées car :
Le service est configuré pour ingérer un certain pourcentage de traces à l’aide de sampling rules.
Complete traces dropped by the SDK rate limiter (orange) : Lorsque vous choisissez de définir manuellement le taux d’ingestion du service sous forme de pourcentage avec des règles d’échantillonnage de traces, un limiteur de débit est automatiquement activé, réglé par défaut sur 100 traces par seconde. Consultez la documentation sur le rate limiter pour modifier ce taux.
Traces dropped due to the Agent CPU or RAM limit (rouge) : Ce mécanisme peut abandonner des spans et créer des traces incomplètes. Pour corriger cela, augmentez l’allocation de CPU et de mémoire pour l’infrastructure sur laquelle l’Agent s’exécute.
Configuration de l’ingestion pour un service
Cliquez sur n’importe quel service pour afficher le Service Ingestion Summary, qui fournit des informations exploitables et des options de configuration pour gérer l’ingestion des traces de ce service.
Configuration de l’ingestion pour un service
Taux d’échantillonnage par ressource
Le tableau répertorie les taux d’échantillonnage appliqués par ressource du service.
La colonne Ingested bytes affiche les octets ingérés à partir des spans du service et de la ressource, tandis que la colonne Downstream bytes affiche les octets ingérés à partir des spans où la décision d’échantillonnage est prise à partir de ce service et de cette ressource, y compris les octets provenant des services en aval dans la chaîne d’appel.
La colonne Configuration indique où le taux d’échantillonnage de la ressource est appliqué :
Local Configured si une sampling rule a été définie localement dans le SDK.
Remote Configured si une règle d’échantillonnage à distance a été définie depuis l’interface utilisateur Datadog. Pour savoir comment configurer des règles d’échantillonnage depuis la page Ingestion Control, lisez la section sur la configuration à distance des règles d’échantillonnage.
Remarque : Si le service ne prend pas de décisions d’échantillonnage, les ressources du service seront regroupées sous la ligne Resources not making sampling decisions.
Remarque : Sur de courtes périodes (1 à 4 heures), le taux d’échantillonnage effectif peut s’afficher en dessous de 100 %, même lorsqu’il est configuré à 100 %. Il s’agit d’un comportement attendu dû aux calculs statistiques qui nécessitent davantage de points de données pour converger. Toutes les traces sont toujours capturées correctement. Pour un affichage plus précis, consultez les taux d’échantillonnage sur des périodes plus longues.
Raisons d’ingestion et décideurs d’échantillonnage
Explorez la Ingestion reasons breakdown pour voir quels mécanismes sont responsables de l’ingestion de votre service. Chaque motif d’ingestion est lié à un ingestion mechanism spécifique. Après avoir modifié votre configuration d’ingestion de service, vous pouvez observer l’augmentation ou la diminution des octets et des spans ingérés dans ce graphique de séries temporelles basé sur la dernière heure de données ingérées.
Si la majeure partie de votre volume d’ingestion de service est due à des décisions prises par des services en amont, examinez le détail de la top list Sampling decision makers. Par exemple, si votre service n’est pas racine (ce qui signifie qu’il ne décide jamais d’échantillonner des traces), observez tous les services en amont responsables de l’ingestion de votre service non racine. Configurez les services racine en amont pour réduire votre volume d’ingestion global.
Pour des investigations plus approfondies, utilisez le APM Trace - Estimated Usage Dashboard, qui fournit des informations globales sur l’ingestion ainsi que des graphiques de répartition par service, env et ingestion reason.
Versions de l’Agent et du SDK
Consultez la Datadog Agent and SDK versions que votre service utilise. Comparez les versions utilisées aux dernières versions publiées pour vous assurer que vous exécutez des Agents et des bibliothèques récents et à jour.
Gestion des taux d’échantillonnage des services
Pour contrôler les taux d’échantillonnage d’un service, vous pouvez utiliser :
Adaptive sampling : Ajustez automatiquement les taux d’échantillonnage pour correspondre à un budget de volume ingéré mensuel configuré.
Resource-based sampling : Définissez manuellement des taux d’échantillonnage explicites par ressource.
Les configurations pour ces stratégies peuvent être appliquées Remotely via l’interface utilisateur Datadog. Cette méthode permet aux modifications de prendre effet immédiatement sans redéployer votre service. Pour Resource-based Sampling, vous avez également la possibilité d’appliquer des configurations localement en mettant à jour les fichiers de configuration de votre service et en redéployant.
Remote Configuration pour les taux d’ingestion de service a des exigences spécifiques.
APM Remote Configuration Writepermissions. Si vous ne disposez pas de ces permissions, demandez à votre administrateur Datadog de mettre à jour vos permissions depuis les paramètres de votre organisation.
Vous trouverez ci-dessous la version minimale du SDK requise pour cette fonctionnalité :
Langage
Version minimale requise
Java
v1.34.0
Go
v1.64.0
Python
v.2.9.0
Ruby
v2.0.0
Node.js
v5.16.0
PHP
v1.4.0
.NET
v2.53.2
C++
v0.2.2
Échantillonnage adaptatif
Utilisez l’échantillonnage adaptatif pour laisser Datadog gérer les taux d’échantillonnage des services pour vous. Spécifiez un volume d’ingestion mensuel cible pour un ou plusieurs services tout en conservant une visibilité sur tous les services et endpoints.
Cliquez sur un service pour afficher le Service Ingestion Summary.
Cliquez sur Manage Ingestion rate.
Cliquez sur Custom sampling rates only.
Cliquez sur Add new rule pour définir les taux d’échantillonnage pour certaines ressources. Remarque : Les règles d’échantillonnage utilisent la correspondance de modèles glob, vous pouvez donc utiliser des caractères génériques (*) pour faire correspondre plusieurs ressources en même temps.
Appliquez la configuration Remotely ou Locally :
Cette option applique la configuration à l’aide de Remote Configuration, vous n’avez donc pas besoin de redéployer le service pour que la modification prenne effet. Vous pouvez observer les modifications de configuration depuis le Live Search Explorer.
Cliquez sur Apply pour enregistrer la configuration.
Les ressources configurées à distance s’affichent sous la forme Configured Remote dans la colonne Configuration.
Si l’application de cette configuration Remote Configuration est désactivée, assurez-vous que les Remote Configuration requirements sont remplies.
Cette option génère une configuration que vous pouvez appliquer manuellement.
Appliquez la configuration générée à votre service. Remarque : La valeur du nom du service est sensible à la casse. Elle doit correspondre à la casse du nom de votre service.
Redéployez le service.
Confirmez que le nouveau pourcentage a été appliqué en consultant la colonne Traffic Breakdown. Les ressources qui ont été configurées localement s’affichent sous la forme Configured Local dans la colonne Configuration.
Gestion de la configuration de l’ingestion du Datadog Agent
Cliquez sur Configure Datadog Agent Ingestion pour gérer les taux d’échantillonnage par défaut (head-based), l’échantillonnage des erreurs et l’échantillonnage des traces rares.
Head-based Sampling : Lorsqu’aucune règle d’échantillonnage n’est définie pour un service, le Datadog Agent calcule automatiquement les taux d’échantillonnage à appliquer pour vos services, en ciblant 10 traces par seconde par Agent. Modifiez ce nombre cible de traces dans Datadog, ou définissez DD_APM_TARGET_TPS localement au niveau de l’Agent.
Error Spans Sampling: Pour les traces non capturées par l’échantillonnage head-based, le Datadog Agent capture les traces d’erreur locales jusqu’à 10 traces par seconde par Agent. Modifiez ce nombre cible de traces dans Datadog, ou définissez DD_APM_ERROR_TPS locally au niveau de l’Agent.
Rare Spans Sampling: Pour les traces non capturées par l’échantillonnage head-based, le Datadog Agent capture les traces rares locales jusqu’à 5 traces par seconde par Agent. Ce paramètre est désactivé par défaut. Activez la collecte des traces rares dans Datadog, ou définissez DD_APM_ENABLE_RARE_SAMPLER locally au niveau de l’Agent.
Grâce à Remote Configuration, vous n’avez pas besoin de redémarrer l’Agent pour mettre à jour ces paramètres. Cliquez sur Apply pour enregistrer les modifications de configuration, et la nouvelle configuration prend effet immédiatement. La configuration à distance pour les paramètres d’échantillonnage de l’Agent est disponible si vous utilisez la version 7.42.0 ou supérieure de l’Agent.
Remarque : La section Other Ingestion Reasons (grise) du graphique en secteurs représente d’autres raisons d’ingestion qui ne sont pas configurables au niveau du Datadog Agent.
Remarque : Les paramètres configurés à distance prévalent sur les configurations locales telles que les variables d’environnement et la configuration datadog.yaml.
Priorité des règles d’échantillonnage
Si des règles d’échantillonnage sont définies à plusieurs emplacements, les règles de priorité suivantes s’appliquent dans l’ordre, les règles apparaissant en premier dans la liste pouvant remplacer celles de priorité inférieure :
