La solution CI Visibility n'est pas encore disponible pour le site que vous avez sélectionné ().

Si vous utilisez Jenkins comme fournisseur de CI, vous pouvez vous servir de la configuration via l'interface afin d'activer Test Visibility pour vos tâches et pipelines.

Compatibilité

Frameworks de test pris en charge :

Framework de testVersion
JUnit 4>= 4.10
JUnit 5>= 5.3
TestNG>= 6.4
Spock>= 2.0
Cucumber>= 5.4.0
Karate>= 1.0.0
Scalatest>= 3.0.8
Scala MUnit>= 0.7.28

Si votre framework de test n’est pas pris en charge, vous pouvez essayer d’instrumenter vos tests avec l’[API de test manuel]{1].

Systèmes de build pris en charge :

Système de buildVersion
Gradle>= 2.0
Maven>= 3.2.1

D’autres systèmes de build, comme Ant et Bazel, sont pris en charge, mais avec les limitations suivantes :

  • La configuration et la transmission automatiques de la couverture ne sont pas disponibles.
  • Pour le build d’un projet avec plusieurs modules, chaque module doit être transmis dans une trace distincte.

Passer d’une organisation à une autre

Pour configurer Test Visibility pour Java, procédez comme suit :

  1. Configurez la méthode de transmission du traceur.
  2. Téléchargez la bibliothèque du traceur sur les hosts sur lesquels vos tests seront exécutés.
  3. Exécutez vos tests avec le traceur ajouté.

Vous pouvez suivre les instructions de configuration interactives disponibles sur le site Datadog ou les instructions ci-dessous.

Configurer la méthode de transmission

Pour cette étape, vous devez configurer la méthode de transmission des données par le traceur Java à Datadog. Il existe deux principales méthodes :

  • Vous pouvez transmettre les données à l’Agent Datadog, qui les envoie à son tour à Datadog.
  • Vous pouvez transmettre les données directement à Datadog.

Si vous utilisez un fournisseur de CI sur le cloud sans accès aux nœuds de worker sous-jacents, comme GitHub Actions ou CircleCI, configurez la bibliothèque pour utiliser le mode sans Agent. Pour cela, définissez les variables d’environnement suivantes :

DD_CIVISIBILITY_AGENTLESS_ENABLED=true (requis)
Active ou désactive le mode sans Agent.
Valeur par défaut : false
DD_API_KEY (requis)
La clé d’API Datadog utilisée pour importer les résultats de test.
Valeur par défaut: (empty)

Configurez aussi le site Datadog vers lequel vous souhaitez envoyer des données.

DD_SITE (requis)
Le site Datadog vers lequel importer les résultats.
Valeur par défaut : datadoghq.com

SI vous exécutez des tests avec un fournisseur de CI sur site, comme Jenkins ou GitLab CI autogéré, installez l’Agent Datadog sur chaque nœud de worker en suivant les instructions d’installation de l’Agent. Cette méthode est recommandée, car elle vous permet d’associer automatiquement les résultats de test aux logs et aux métriques des hosts sous-jacents.

Si vous utilisez un exécuteur Kubernetes, Datadog vous conseille d’utiliser l’Operator Datadog. Celui-ci comprend le contrôleur d’admission Datadog, qui peut automatiquement injecter la bibliothèque du traceur dans les pods du build. Remarque : si vous utilisez l’Operator Datadog, il n’est pas nécessaire de télécharger et d’injecter la bibliothèque du traceur, car le contrôleur d’admission le fait à votre place. Vous pouvez donc ignorer l’étape correspondante ci-dessous. Vous devez toutefois vous assurer que vos pods définissent les variables d’environnement ou paramètres de ligne de commande nécessaires à l’activation de Test Visibility.

Si vous n’utilisez pas Kubernetes, ou si vous ne pouvez pas utiliser le contrôleur d’admission Datadog, et que le fournisseur de CI repose sur un exécuteur basé sur des conteneurs, définissez la variable d’environnement DD_TRACE_AGENT_URL (valeur par défaut : http://localhost:8126) dans le conteneur du build exécutant le traceur sur un endpoint accessible dans le conteneur. Remarque : lorsqu’elle est utilisée à l’intérieur du conteneur, la valeur localhost désigne le conteneur, et non le nœud de worker sous-jacent ou un conteneur dans lequel l’Agent pourrait s’exécuter.

DD_TRACE_AGENT_URL comprend le protocole et le port (par exemple, http://localhost:8126) et est prioritaire par rapport à DD_AGENT_HOST et DD_TRACE_AGENT_PORT. Ce paramètre est recommandé pour la configuration de l’URL de l’Agent Datadog pour CI Visibility.

Si vous ne parvenez pas à établir une connexion avec l’Agent Datadog, utilisez le mode sans agent. Remarque : avec cette méthode, les tests ne sont pas mis en corrélation avec les logs et les métriques d’infrastructure.

Téléchargement de la bibliothèque du traceur

Vous devez seulement télécharger la bibliothèque du traceur une fois pour chaque serveur.

Si la bibliothèque du traceur est déjà disponible localement sur le serveur, vous pouvez passer directement à l’exécution des tests.

Déclarez la variable DD_TRACER_FOLDER avec le chemin vers le dossier vers lequel vous voulez stocker le traceur JAR téléchargé :

export DD_TRACER_FOLDER=... // e.g. ~/.datadog

Exécutez la commande ci-dessous pour télécharger le traceur JAR dans le dossier spécifié :

wget -O $DD_TRACER_FOLDER/dd-java-agent.jar 'https://dtdg.co/latest-java-tracer'

Vous pouvez exécuter la commande java -jar $DD_TRACER_FOLDER/dd-java-agent.jar pour vérifier la version de la bibliothèque du traceur.

Exécution des tests

Définissez les variables d’environnement suivantes pour configurer le traceur :

DD_CIVISIBILITY_ENABLED=true (Required)
Active la solution CI Visibility.
DD_ENV (Required)
Environnement dans lequel les tests sont exécutés (par exemple, local pour des tests exécutés sur la machine d’un développeur ou ci pour des tests exécutés sur un fournisseur de CI).
DD_SERVICE (obligatoire)
Nom de la bibliothèque ou du service testé.
DD_TRACER_FOLDER (Required)
Chemin vers le dossier où se trouve le traceur Java téléchargé.
MAVEN_OPTS=-javaagent:$DD_TRACER_FOLDER/dd-java-agent.jar (obligatoire)
Injecte le traceur dans le processus de build Maven.

Exécutez vos tests comme vous le feriez en temps normal (par exemple, avec mvn test ou mvn verify).

Assurez-vous que vous avez défini la variable DD_TRACER_FOLDER sur le chemin vers lequel vous avez téléchargé le traceur.

Exécutez vos tests à l’aide de la propriété système org.gradle.jvmargs pour spécifier le chemin du traceur JAR Java de Datadog.

Lorsque vous spécifiez des arguments de traceur, incluez les éléments suivants :

  • Activez CI Visibility en définissant la propriété dd.civisibility.enabled sur true.
  • Définissez l’environnement dans lequel les tests sont exécutés à l’aide de la propriété dd.env (par exemple, local pour des tests exécutés sur la machine d’un développeur ou ci pour des tests exécutés sur un fournisseur de CI).
  • Définissez le nom de la bibliothèque ou du service testé dans la propriété dd.service.

Exemple :

./gradlew cleanTest test -Dorg.gradle.jvmargs=\
-javaagent:$DD_TRACER_FOLDER/dd-java-agent.jar=\
dd.civisibility.enabled=true,\
dd.env=ci,\
dd.service=my-java-app

Le fait de spécifier org.gradle.jvmargs dans la ligne de commande écrase la valeur spécifiée ailleurs. Si cette propriété est spécifiée dans un fichier gradle.properties, veillez à répliquer les réglages nécessaires dans l’invocation de la ligne de commande.

Définissez les variables d’environnement suivantes pour configurer le traceur :

DD_CIVISIBILITY_ENABLED=true (obligatoire)
Active la solution CI Visibility.
DD_ENV (Required)
Environnement dans lequel les tests sont exécutés (par exemple, local pour des tests exécutés sur la machine d’un développeur ou ci pour des tests exécutés sur un fournisseur de CI).
DD_SERVICE (obligatoire)
Nom de la bibliothèque ou du service testé.
DD_TRACER_FOLDER (Required)
Chemin vers le dossier où se trouve le traceur Java téléchargé.
JAVA_TOOL_OPTIONS=-javaagent:$DD_TRACER_FOLDER/dd-java-agent.jar (obligatoire)
Injecte le traceur dans les JVM qui exécutent vos tests.

Pour en savoir plus sur les tags réservés service et env, consultez la section [Tagging de service unifié][8]

Exécutez vos tests comme vous le feriez en temps normal :

Dépannage de la solution Browser

Les valeurs de configuration par défaut fonctionnent bien dans la plupart des cas.

Cependant, s’il est besoin de personnaliser le comportement du traceur, vous pouvez utiliser les options de configuration du traceur Datadog.

Recueillir les métadonnées Git

Datadog tire profit des données Git pour vous présenter les résultats de vos tests et les regrouper par référentiel, branche et commit. Les métadonnées Git sont automatiquement recueillies par l’instrumentation de test, à partir des variables d’environnement du fournisseur de CI et du dossier local .git dans le chemin du projet, le cas échéant.

Si vous exécutez des tests dans des fournisseurs de CI non pris en charge, ou sans dossier .git, vous pouvez configurer manuellement les données Git à l’aide de variables d’environnement. Ces dernières sont prioritaires et remplacent les informations détectées automatiquement. Configurez les variables d’environnement suivantes pour obtenir des données Git :

DD_GIT_REPOSITORY_URL
URL du référentiel dans lequel le code est stocké. Les URL HTTP et SSH sont prises en charge.
Exemple : git@github.com:MyCompany/MyApp.git, https://github.com/MyCompany/MyApp.git
DD_GIT_BRANCH
Branche Git testée. Ne renseignez pas cette variable si vous fournissez à la place des informations sur les tags.
Exemple : develop
DD_GIT_TAG
Tag Git testé (le cas échéant). Ne renseignez pas cette variable si vous fournissez à la place des informations sur la branche.
Exemple : 1.0.1
DD_GIT_COMMIT_SHA
Hash entier du commit.
Exemple : a18ebf361cc831f5535e58ec4fae04ffd98d8152
DD_GIT_COMMIT_MESSAGE
Message du commit.
Exemple : Set release number
DD_GIT_COMMIT_AUTHOR_NAME
Nom de l’auteur du commit.
Exemple : John Smith
DD_GIT_COMMIT_AUTHOR_EMAIL
E-mail de l’auteur du commit.
Exemple : john@example.com
DD_GIT_COMMIT_AUTHOR_DATE
Date de l’auteur du commit, au format ISO 8601.
Exemple : 2021-03-12T16:00:28Z
DD_GIT_COMMIT_COMMITTER_NAME
Nom du responsable du commit.
Exemple : Jane Smith
DD_GIT_COMMIT_COMMITTER_EMAIL
E-mail du responsable du commit.
Exemple : jane@example.com
DD_GIT_COMMIT_COMMITTER_DATE
Date du responsable du commit, au format ISO 8601.
Exemple : 2021-03-12T16:00:28Z

Extensions

La bibliothèque dd-trace-api expose un ensemble d’API qui peuvent être utilisées pour étendre la fonctionnalité du traceur au moyen de la programmation. Pour utiliser les extensions décrites ci-dessous, ajoutez cette bibliothèque à votre projet en tant que dépendance compile-time.

Ajouter des tags personnalisés à des tests

Vous pouvez ajouter des tags personnalisés à vos tests à l’aide de la span actuellement active :

// Dans votre test
final Span span = GlobalTracer.get().activeSpan();
if (span != null) {
  span.setTag("test_owner", "my_team");
}
// Le test se poursuit normalement
// ...

Pour créer des filtres ou des champs group by pour ces tags, vous devez d’abord créer des facettes.

Pour en savoir plus sur l’ajout de tags, consultez la rubrique relative à l’ajout de tags de la documentation relative à l’instrumentation personnalisée Java.

Ajouter des métriques custom aux tests

Tout comme pour les tags, vous pouvez ajouter des métriques custom à vos tests à l’aide de la span active :

// dans votre test
final Span span = GlobalTracer.get().activeSpan();
if (span != null) {
  span.setTag("test.memory.usage", 1e8);
}
// le test se poursuit normalement
// ...

Pour en savoir plus sur les métriques custom, consultez le guide sur l’ajout de métriques custom.

Utilisation de l’API de test manuel

Si vous utilisez l’un des frameworks de test pris en charge, le traceur Java instrumente vos tests automatiquement et envoie les résultats au backend Datadog.

Si vous utilisez un framework qui n’est pas pris en charge ou une solution de test ad-hoc, vous pouvez exploiter l’API de test manuel, qui transmet également les résultats de test au backend.

Modèle de domaine

L’API repose sur quatre concepts, à savoir la session de test, le module de test, la collection de tests et les tests.

Session de test

Une session de test représente un build de projet, qui correspond généralement à l’exécution d’une commande de test générée par un utilisateur ou par un script CI.

Pour commencer une session de test, appelez datadog.trace.api.civisibility.CIVisibility#startSession et passez le nom du projet et celui du framework de test que vous avez utilisé.

Une fois tous vos tests terminés, appelez datadog.trace.api.civisibility.DDTestSession#end, afin de forcer la bibliothèque à envoyer tous les résultats de test restants au backend.

Module de test

Un module de test représente une plus petite unité de travail au sein d’un build de projet, qui correspond habituellement à un module de projet. Par exemple, un sous-module Maven ou un sous-projet Gradle.

Pour lancer un module de test, appelez datadog.trace.api.civisibility.DDTestSession#testModuleStart et passez le nom du module.

Une fois le build et le test du module terminés, appelez datadog.trace.api.civisibility.DDTestModule#end.

Collection de tests

Une collection de tests correspond à un ensemble de tests qui partagent des caractéristiques communes, comme le processus d’initialisation et de nettoyage. Certaines variables peuvent également être utilisées par plusieurs tests d’une collection. Une collection correspond habituellement à une classe Java contenant des cas de test.

Pour créer des collections de tests dans un module de test, appelez datadog.trace.api.civisibility.DDTestModule#testSuiteStart et passez le nom de la collection de tests.

Appelez datadog.trace.api.civisibility.DDTestSuite#end lorsque l’exécution de tous les tests d’une collection est terminée.

Test

Un test représente un simple cas de test exécuté dans le cadre d’une collection de tests. Cela correspond généralement à une méthode qui contient une logique de test.

Pour créer des tests dans une collection, appelez datadog.trace.api.civisibility.DDTestSuite#testStart et passez le nom du test.

Appelez datadog.trace.api.civisibility.DDTest#end lorsque l’exécution d’un test est terminée.

Exemple de code

Le code suivant permet d’utiliser les fonctionnalités de base de l’API :

package com.datadog.civisibility.example;

import datadog.trace.api.civisibility.CIVisibility;
import datadog.trace.api.civisibility.DDTest;
import datadog.trace.api.civisibility.DDTestModule;
import datadog.trace.api.civisibility.DDTestSession;
import datadog.trace.api.civisibility.DDTestSuite;
import java.lang.reflect.Method;

// les arguments null dans les appels ci-dessous sont des valeurs startTime/endTime facultatives :
// lorsqu'aucune valeur n'est spécifiée, l'heure actuelle est utilisée
public class ManualTest {
    public static void main(String[] args) throws Exception {
        DDTestSession testSession = CIVisibility.startSession("my-project-name", "my-test-framework", null);
        testSession.setTag("my-tag", "additional-session-metadata");
        try {
            runTestModule(testSession);
        } finally {
            testSession.end(null);
        }
    }

    private static void runTestModule(DDTestSession testSession) throws Exception {
        DDTestModule testModule = testSession.testModuleStart("my-module", null);
        testModule.setTag("my-module-tag", "additional-module-metadata");
        try {
            runFirstTestSuite(testModule);
            runSecondTestSuite(testModule);
        } finally {
            testModule.end(null);
        }
    }

    private static void runFirstTestSuite(DDTestModule testModule) throws Exception {
        DDTestSuite testSuite = testModule.testSuiteStart("my-suite", ManualTest.class, null);
        testSuite.setTag("my-suite-tag", "additional-suite-metadata");
        try {
            runTestCase(testSuite);
        } finally {
            testSuite.end(null);
        }
    }

    private static void runTestCase(DDTestSuite testSuite) throws Exception {
        Method myTestCaseMethod = ManualTest.class.getDeclaredMethod("myTestCase");
        DDTest ddTest = testSuite.testStart("myTestCase", myTestCaseMethod, null);
        ddTest.setTag("my-test-case-tag", "additional-test-case-metadata");
        ddTest.setTag("my-test-case-tag", "more-test-case-metadata");
        try {
            myTestCase();
        } catch (Exception e) {
            ddTest.setErrorInfo(e); // passez des informations d'erreur pour désigner le cas de test comme ayant échoué
        } finally {
            ddTest.end(null);
        }
    }

    private static void myTestCase() throws Exception {
        // exécutez une logique de test
    }

    private static void runSecondTestSuite(DDTestModule testModule) {
        DDTestSuite secondTestSuite = testModule.testSuiteStart("my-second-suite", ManualTest.class, null);
        secondTestSuite.setSkipReason("cette collection de tests est ignorée"); // passez une raison d'ignorer pour marquer la collection de tests comme ayant été ignorée
        secondTestSuite.end(null);
    }
}

Appelez toujours datadog.trace.api.civisibility.DDTestSession#end à la fin de votre code, afin que toutes les informations sur les tests soient transmises à Datadog.

Aide

Les tests n’apparaissent pas dans Datadog après l’activation de CI  Visibility dans le traceur

Vérifiez que le traceur est injecté dans votre processus de build. Passez en revue les logs de votre build. Si l’injection a fonctionné, vous devriez voir une ligne avec le texte DATADOG TRACER CONFIGURATION. Si vous ne trouvez pas cette ligne, vérifiez que les variables d’environnement utilisées pour injecter et configurer le traceur sont disponibles dans le processus de build. Il arrive régulièrement que les variables soient définies dans une étape de build, mais que les tests soient exécutés dans une autre étape de build. Si les variables ne sont pas propagées entre les étapes de build, cette approche n’est pas valide.

Vérifiez que vous utilisez la dernière version du traceur.

Vérifiez que votre système de build et votre framework de test sont pris en charge par CI Visibility. Consultez la liste des systèmes de build et des frameworks de test pris en charge.

Vérifiez que la propriété dd.civisibility.enabled (ou la variable d’environnement DD_CIVISIBILITY_ENABLED) est définie sur true dans les arguments du traceur.

Recherchez dans la sortie du build d’éventuelles erreurs indiquant des problèmes de configuration du traceur, tels qu’une variable d’environnement DD_API_KEY non définie.

Les tests ou la compilation du code source échouent lors de la génération d’un projet avec le traceur associé

Par défaut, CI Visibility exécute une compilation du code Java avec un plug-in de compilateur associé.

Le plug-in est facultatif, étant donné qu’il sert seulement à améliorer les performances.

Selon la configuration de build, l’ajout du plug-in peut parfois perturber le processus de compilation.

Si le plug-in interfère avec le build, désactivez-le en ajoutant dd.civisibility.compiler.plugin.auto.configuration.enabled=false à la liste d’arguments -javaagent (ou en définissant la variable d’environnement DD_CIVISIBILITY_COMPILER_PLUGIN_AUTO_CONFIGURATION_ENABLED=false).

Les tests échouent lors de la génération d’un projet avec le traceur associé

Dans certains cas, le fait d’associer le traceur peut faire échouer des tests, en particulier s’ils exécutent des assertions sur l’état interne de la JVM ou des instances de classes de bibliothèques tierces.

Même s’il est plus adapté dans ces cas-là de mettre à jour les tests, il existe également une option plus rapide qui consiste à désactiver les intégrations de la bibliothèque tierce du traceur.

Les intégrations apportent des statistiques supplémentaires sur le déroulement du code testé et sont particulièrement utiles dans des tests d’intégration, pour surveiller des éléments tels que des requêtes HTTP ou des appels de base de données. Elles sont activées par défaut.

Pour désactiver une intégration spécifique, référez-vous au tableau de compatibilité du traceur Datadog afin d’obtenir les noms des propriétés de configuration adéquats. Par exemple, pour désactiver l’intégration de requête pour le client OkHttp3, ajoutez dd.integration.okhttp-3.enabled=false à la liste d’arguments -javaagent.

Pour désactiver toutes les intégrations, ajoutez dd.trace.enabled=false à la liste d’arguments -javaagent (ou définissez la variable d’environnement DD_TRACE_ENABLED=false).

Pour aller plus loin