概要

Amazon Bedrock は、Amazon および先進的な AI スタートアップの基盤モデル (FM) を API 経由で提供する完全マネージド型のサービスで、用途に最適なモデルを様々な FM から選べます。

このインテグレーションを有効にすると、Datadog にすべての Bedrock メトリクスを表示できます。

セットアップ

インストール

Amazon Web Services インテグレーションをまだセットアップしていない場合は、最初にセットアップします。

メトリクスの収集

  1. AWS インテグレーションページで、Metric Collection タブの下にある Bedrock が有効になっていることを確認します。
  2. Datadog - Amazon Bedrock インテグレーションをインストールします。

収集データ

メトリクス

aws.bedrock.content_filtered_count
(count)
The total number of times the text output content was filtered.
Shown as time
aws.bedrock.input_token_count
(gauge)
The average number of input tokens used in prompts invoked for a model.
Shown as token
aws.bedrock.input_token_count.maximum
(gauge)
The maximum number of input tokens used in prompts invoked for a model.
Shown as token
aws.bedrock.input_token_count.minimum
(gauge)
The minimum number of input tokens used in prompts invoked for a model.
Shown as token
aws.bedrock.input_token_count.sum
(count)
The total number of input tokens used in prompts invoked for a model.
Shown as token
aws.bedrock.invocation_client_errors
(count)
The number of client invocation errors.
Shown as error
aws.bedrock.invocation_latency
(gauge)
Average latency of the invocations in milliseconds.
Shown as millisecond
aws.bedrock.invocation_latency.maximum
(gauge)
The maximum invocation latency over a 1 minute period.
Shown as millisecond
aws.bedrock.invocation_latency.minimum
(gauge)
The minimum invocation latency over a 1 minute period.
Shown as millisecond
aws.bedrock.invocation_latency.p90
(gauge)
The 90th percentile of invocation latency over a 1 minute period.
Shown as millisecond
aws.bedrock.invocation_latency.p95
(gauge)
The 95th percentile of invocation latency over a 1 minute period.
Shown as millisecond
aws.bedrock.invocation_latency.p99
(gauge)
The 99th percentile of invocation latency over a 1 minute period.
Shown as millisecond
aws.bedrock.invocation_server_errors
(count)
The number of server invocation errors.
Shown as error
aws.bedrock.invocation_throttles
(count)
The number of invocation throttles.
Shown as throttle
aws.bedrock.invocations
(count)
The number of invocations sent to a model endpoint.
Shown as invocation
aws.bedrock.output_image_count
(gauge)
The average number of output images returned by model invocations over a 1 minute period.
Shown as item
aws.bedrock.output_token_count
(gauge)
The average number of output tokens returned by model invocations over a 1 minute period.
Shown as token
aws.bedrock.output_token_count.maximum
(gauge)
The maximum number of output tokens returned by model invocations over a 1 minute period.
Shown as token
aws.bedrock.output_token_count.minimum
(gauge)
The minimum number of output tokens returned by model invocations over a 1 minute period.
Shown as token
aws.bedrock.output_token_count.sum
(count)
The total number of output tokens returned by all model invocations.
Shown as token

イベント

Amazon Bedrock インテグレーションには、イベントは含まれません。

サービスチェック

Amazon Bedrock インテグレーションには、サービスのチェック機能は含まれません。

トラブルシューティング

ご不明な点は、Datadog のサポートチームまでお問合せください。

その他の参考資料

お役に立つドキュメント、リンクや記事: