Rédaction de données sensibles
AI Guard n'est pas disponible dans le site.
AI Guard utilise le Sensitive Data Scanner pour identifier les données sensibles, telles que les informations personnellement identifiables (PII), les identifiants et les secrets, dans les messages évalués par AI Guard. Les données correspondantes peuvent être hachées, remplacées par un texte personnalisé ou partiellement expurgées avant d’être envoyées au modèle. Pour remplacer chaque correspondance par une étiquette ou ****, utilisez l’action Redact et saisissez la valeur comme texte de remplacement.
La rédaction de données sensibles n'est prise en charge qu'avec une intégration manuelle du SDK. Les instrumentations automatiques, telles qu'OpenAI ou Anthropic, ne sont pas encore prises en charge : elles signalent les résultats du Sensitive Data Scanner, mais elles ne rédigent pas les messages que votre application envoie au modèle. Pour masquer des données sensibles, appelez directement le SDK et transférez la conversation masquée renvoyée par l'évaluation. Voir
AI Guard SDK.
Versions du SDK prises en charge
| Langage | Version minimale |
|---|
| Python | dd-trace-py 4.14.0 |
| JavaScript | dd-trace-js 6.13.0 |
| Java | À venir |
| Ruby | À venir |
Configuration
Pour activer la rédaction de données sensibles, configurez les règles de rédaction pour AI Guard, activez l’analyse des données sensibles pour votre service et appliquez les remplacements renvoyés par AI Guard.
Les règles du Sensitive Data Scanner pour AI Guard sont configurées au niveau de l’organisation. Pour choisir les données qu’AI Guard doit masquer et comment elles sont remplacées :
- Accédez à Security > Sensitive Data Scanner > Configuration > AI Guard.
- Créez ou modifiez un groupe d’analyse AI Guard et activez les règles pour les données sensibles que vous souhaitez détecter.
Sous Action on Match, sélectionnez ce qui se passe lorsque la règle correspond à des données sensibles :
- Hachage : remplace définitivement toute la valeur correspondante par un jeton haché.
- Masquage : remplace définitivement toute la valeur correspondante par le texte de remplacement que vous spécifiez.
- Masquage partiel : occulte définitivement seule une partie de la valeur correspondante.
- Dissimulation : masque la valeur correspondante dans Datadog, mais préserve la valeur sous-jacente afin que les utilisateurs disposant des autorisations nécessaires puissent la révéler.
- Aucune action : laisse la valeur correspondante inchangée.
Pour remplacer des données sensibles par une valeur exacte avant qu’elles ne soient envoyées au modèle, sélectionnez Redact et saisissez un texte de remplacement tel que [sensitive_data] ou ****.
Les tags catégorisent la détection mais ne modifient pas le contenu correspondant.
Cette configuration s'applique à l'ensemble de votre organisation. Les règles ne sont appliquées qu'aux services pour lesquels l'analyse des données sensibles est activée.
2. Activer l’analyse des données sensibles pour un service
L’activation des règles de Sensitive Data Scanner pour AI Guard ne suffit pas en soi. Une fois les règles activées, vous devez également activer l’analyse des données sensibles sur le service AI Guard que vous souhaitez protéger :
- Accédez à Security > AI Guard > Settings > Services.
- Modifiez la politique par défaut ou la politique du service et de l’environnement que vous souhaitez protéger.
- Sous Sensitive data scanning, sélectionnez l’une des options suivantes, puis enregistrez la politique :
- Disabled : AI Guard n’analyse pas les requêtes à la recherche de données sensibles.
- Scanning : AI Guard analyse les requêtes à la recherche de données sensibles et signale les résultats sur l’AI Guard span, mais renvoie les messages inchangés.
- Scanning and redacting : AI Guard analyse les requêtes à la recherche de données sensibles et expurge les correspondances, en suivant l’action configurée pour chaque règle.
La politique de service active ou désactive la configuration complète de Sensitive Data Scanner pour ce service. Configurez les données détectées et expurgées sur la page de configuration d’AI Guard dans Sensitive Data Scanner.
Lorsque Scanning and redacting est activé, AI Guard expurge le dernier message de la conversation évaluée.
Comme le contexte de la conversation est construit de manière incrémentielle, AI Guard ne réanalyse pas l'historique de la conversation. Le remplacement des messages dans votre application par leurs versions expurgées relève de la responsabilité de votre implémentation du SDK. Voir
AI Guard SDK.
3. Appliquez les remplacements d’expurgation avec le SDK
Lorsque le SDK évalue des messages, la réponse d’évaluation inclut un remplacement entièrement expurgé et son chemin pour chaque valeur qu’une règle configurée modifie. Le SDK applique ces remplacements à une copie de la conversation évaluée et la renvoie avec le résultat de l’évaluation. Transmettez cette conversation au modèle et conservez-la dans l’état de votre application, afin que les données sensibles ne quittent pas votre application et ne soient pas réintroduites au tour suivant.
AI Guard analyse uniquement le dernier message de chaque appel d’évaluation et utilise les messages précédents comme contexte. Cela inclut une invite utilisateur, une réponse de l’assistant, des arguments d’appel d’outil ou un résultat d’appel d’outil lorsqu’il s’agit du dernier message évalué. Les messages précédents de la conversation ne sont pas réanalysés, le résultat contient donc la conversation complète que vous avez transmise, avec seul le dernier message expurgé. L’application des remplacements ne modifie pas les objets de message appartenant à votre application.
La manière dont vous lisez la conversation expurgée dépend du langage du SDK :
Pour désactiver la rédaction dans le traceur tout en conservant la détection et le signalement, définissez DD_AI_GUARD_REDACTION_ENABLED=false dans l’environnement de votre application. L’évaluation continue de s’exécuter et les résultats sont toujours signalés, mais le SDK renvoie les messages inchangés.
Pour aller plus loin
Documentation, liens et articles supplémentaires utiles:
