Débuter avec les logs

Présentation

Utilisez la fonction Datadog Log Management, également appelée logs, pour recueillir les logs issus de plusieurs sources de journalisation, comme votre serveur, votre conteneur, votre environnement Cloud, votre application ou vos processeurs et forwarders de logs existants. Avec un système de journalisation conventionnel, vous devez choisir les logs à analyser et à conserver afin de limiter les coûts. La fonctionnalité Logging without Limits* de Datadog vous permet de recueillir, traiter, archiver, explorer et surveiller vos logs sans limites de journalisation.

Cette page vous montre comment débuter avec la solution Log Management dans Datadog. Si vous ne l’avez pas encore fait, créez un compte Datadog.

Configurer une source de journalisation

Avec la solution Log Management, vous pouvez analyser et explorer vos données dans le Log Explorer, associer vos traces à vos métriques pour mettre en corrélation des données importantes sur toute la plateforme Datadog, et utiliser les logs ingérés pour la solution Cloud SIEM de Datadog. Le cycle de vie d’un log dans Datadog commence lorsqu’il est ingéré à partir d’une source de journalisation.

Différents types de configurations de logs

Serveur

Plusieurs intégrations peuvent être utilisées pour transmettre les logs de votre serveur à Datadog. Ces intégrations utilisent un bloc de configuration des logs dans leur fichier conf.yaml, qui est disponible dans le dossier conf.d/ à la racine du répertoire de configuration de votre Agent, pour transmettre les logs à Datadog depuis votre serveur.

logs:
  - type: file
    path: /chemin/vers/votre/intégration/access.log
    source: nom_intégration
    service: nom_intégration
    sourcecategory: http_web_access

Pour commencer à recueillir des logs à partir d’un serveur :

  1. Si vous ne l’avez pas déjà fait, installez l’Agent Datadog en fonction de votre plateforme.

    Remarque : la collecte de logs nécessite l’Agent Datadog v6+.

  2. La collecte de logs n’est pas activée par défaut dans l’Agent Datadog. Pour activer la collecte de logs, définissez logs_enabled sur true dans votre fichier datadog.yaml.

    datadog.yaml

    ## @param logs_enabled - boolean - optional - default: false
    ## @env DD_LOGS_ENABLED - boolean - optional - default: false
    ## Enable Datadog Agent log collection by setting logs_enabled to true.
    logs_enabled: false
    
    ## @param logs_config - custom object - optional
    ## Enter specific configurations for your Log collection.
    ## Uncomment this parameter and the one below to enable them.
    ## See https://docs.datadoghq.com/agent/logs/
    logs_config:
    
      ## @param container_collect_all - boolean - optional - default: false
      ## @env DD_LOGS_CONFIG_CONTAINER_COLLECT_ALL - boolean - optional - default: false
      ## Enable container log collection for all the containers (see ac_exclude to filter out containers)
      container_collect_all: false
    
      ## @param logs_dd_url - string - optional
      ## @env DD_LOGS_CONFIG_DD_URL - string - optional
      ## Define the endpoint and port to hit when using a proxy for logs. The logs are forwarded in TCP
      ## therefore the proxy must be able to handle TCP connections.
      logs_dd_url: <ENDPOINT>:<PORT>
    
      ## @param logs_no_ssl - boolean - optional - default: false
      ## @env DD_LOGS_CONFIG_LOGS_NO_SSL - optional - default: false
      ## Disable the SSL encryption. This parameter should only be used when logs are
      ## forwarded locally to a proxy. It is highly recommended to then handle the SSL encryption
      ## on the proxy side.
      logs_no_ssl: false
    
      ## @param processing_rules - list of custom objects - optional
      ## @env DD_LOGS_CONFIG_PROCESSING_RULES - list of custom objects - optional
      ## Global processing rules that are applied to all logs. The available rules are
      ## "exclude_at_match", "include_at_match" and "mask_sequences". More information in Datadog documentation:
      ## https://docs.datadoghq.com/agent/logs/advanced_log_collection/#global-processing-rules
      processing_rules:
        - type: <RULE_TYPE>
          name: <RULE_NAME>
          pattern: <RULE_PATTERN>
    
      ## @param force_use_http - boolean - optional - default: false
      ## @env DD_LOGS_CONFIG_FORCE_USE_HTTP - boolean - optional - default: false
      ## By default, the Agent sends logs in HTTPS batches to port 443 if HTTPS connectivity can
      ## be established at Agent startup, and falls back to TCP otherwise. Set this parameter to `true` to
      ## always send logs with HTTPS (recommended).
      force_use_http: true
    
      ## @param force_use_tcp - boolean - optional - default: false
      ## @env DD_LOGS_FORCE_USE_TCP - boolean - optional - default: false
      ## By default, logs are sent through HTTPS if possible, set this parameter
      ## to `true` to always send logs via TCP. If `use_http` is set to `true`, this parameter
      ## is ignored.
      force_use_tcp: true
    
      ## @param use_compression - boolean - optional - default: false
      ## @env DD_LOGS_CONFIG_USE_COMPRESSION - boolean - optional - default: false
      ## This parameter is available when sending logs with HTTPS. If enabled, the Agent
      ## compresses logs before sending them.
      use_compression: true
    
      ## @param compression_level - integer - optional - default: 6
      ## @env DD_LOGS_CONFIG_COMPRESSION_LEVEL - boolean - optional - default: false
      ## The compression_level parameter accepts values from 0 (no compression)
      ## to 9 (maximum compression but higher resource usage). Only takes effect if
      ## `use_compression` is set to `true`.
      compression_level: 6
    
      ## @param batch_wait - integer - optional - default: 5
      ## @env DD_LOGS_CONFIG_BATCH_WAIT - integer - optional - default: 5
      ## The maximum time the Datadog Agent waits to fill each batch of logs before sending.
      batch_wait: 5
  3. Redémarrez l’Agent Datadog.

  4. Suivez les étapes d’activation de l’intégration ou les étapes de collecte de logs de fichiers personnalisés sur le site Datadog.

    Remarque : si vous recueillez des logs à partir de fichiers personnalisés et avez besoin d’exemples pour les fichiers suivis, TCP/UDP, journald ou événements Windows, consultez la section Collecte de logs personnalisés.

Conteneur

À partir de l’Agent Datadog v6, l’Agent peut recueillir des logs à partir de conteneurs. Chaque service de conteneurisation dispose d’instructions de configuration spécifiques en fonction de l’emplacement où l’Agent est déployé ou exécuté, ou encore de l’acheminement des logs.

Par exemple, pour Docker, l’Agent peut être installé de deux façons : sur votre host, où l’Agent est externe à l’environnement Docker, ou via le déploiement d’une version conteneurisée de l’Agent dans votre environnement Docker.

Kubernetes nécessite que l’Agent Datadog s’exécute dans votre cluster Kubernetes, et la collecte de logs peut être configurée en utilisant une spécification DaemonSet, un chart Helm ou avec l’Operator Datadog.

Pour commencer à recueillir des logs à partir d’un service de conteneur, suivez les instructions dans l’application.

Cloud

Vous pouvez transmettre les logs issus de divers fournisseurs de Cloud, comme AWS, Azure, et GCP, à Datadog. Chaque fournisseur de Cloud dispose d’instructions de configuration différentes.

Par exemple, les logs du service ​AWS sont généralement stockés dans des compartiments S3 ou des groupes de logs CloudWatch. Vous pouvez vous abonner à ces logs et les transmettre à un flux Amazon Kinesis pour les transmettre à nouveau à une ou plusieurs destinations. Datadog est l’une des destinations par défaut pour les flux de diffusion Amazon Kinesis.​

Pour commencer à recueillir des logs à partir d’un service cloud, suivez les instructions dans l’application.

Client

Datadog vous permet de recueillir des logs à partir de clients via des SDK ou bibliothèques. Par exemple, utilisez le SDK datadog-logs pour envoyer des logs à partir de clients JavaScript à Datadog.

Pour commencer à recueillir des logs à partir d’un service cloud, suivez les instructions dans l’application.

Other

Si vous utilisez des utilitaires ou services de journalisation existants, comme rsyslog, Fluentd ou Logstash, Datadog offre des plug-ins et options de transmission de logs.

Si vous ne voyez pas votre intégration, vous pouvez la saisir dans la zone other integrations afin de recevoir une notification lorsque l’intégration sera disponible.

Pour commencer à recueillir des logs à partir d’un service cloud, suivez les instructions dans l’application.

Explorer vos logs

Une fois qu’une source de journalisation est configurée, vos logs sont disponibles dans le Log Explorer. Cet explorateur vous permet de filtrer, d’agréger et de consulter vos logs.

Par exemple, si vous souhaitez analyser en détail les logs d’un service donné, filtrez vos logs en fonction de service. Vous pouvez ensuite les filtrer en fonction de status, comme ERROR, puis sélectionner Aggregate by Patterns pour voir la partie de votre service qui génère le plus d’erreurs.

Filtrage dans le Log Explorer par pattern d'erreur

Agrégez vos logs en fonction du paramètre Field de Source et passez à l’option de visualisation Top List pour voir vos services qui génèrent le plus de logs. Sélectionnez une source, comme error, et sélectionnez View Logs dans le menu déroulant. Le volet latéral affiche des logs en fonction des erreurs, ce qui vous permet d’identifier rapidement les hosts et services qui nécessitent votre attention.

Affichage Top List dans le Log Explorer

Et ensuite ?

Une fois qu’une source de journalisation est configurée et que vos logs sont disponibles dans le Log Explorer, vous pouvez commencer à explorer d’autres aspects de la gestion des logs.

Configuration des logs

  • Définissez des attributs et alias afin d’unifier votre environnement de logs.
  • Contrôlez le traitement de vos logs avec des pipelines et processeurs.
  • Étant donné que la fonctionnalité Logging without Limits* dissocie l’ingestion et l’indexation de logs, vous pouvez configurer vos logs de façon à choisir ceux que vous souhaitez indexer, conserver ou archiver.

Mise en corrélation des logs

Guides

Pour aller plus loin


*Logging without Limits est une marque déposée de Datadog, Inc.