AWS

Crawler

概要

Amazon Web Services (AWS) を接続すると、次のことができるようになります。

• AWS ステータスの自動更新をストリームに表示する
• Agent をインストールすることなく、EC2 ホストの CloudWatch メトリクスを取得する
• EC2 ホストを EC2 固有の情報にタグ付けする (アベイラビリティー ゾーンなど)
• EC2 のスケジュール設定されたメンテナンス イベントをストリームに表示する
• その他のさまざまな AWS 製品から CloudWatch メトリクスとイベントを収集する

セットアップ

Amazon Web Services との Datadog インテグレーションをセットアップするには、AWS IAM を使用してロールの委任を設定する必要があります。ロールの委任について、詳しくは AWS IAM ベストプラクティス ガイドを参照してください。

ロールの委任

必要となる AWS ロールのセットアップ方法を選択してください。CloudFormation を推奨します。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "apigateway:GET",
                "autoscaling:Describe*",
                "budgets:ViewBudget",
                "cloudfront:GetDistributionConfig",
                "cloudfront:ListDistributions",
                "cloudtrail:DescribeTrails",
                "cloudtrail:GetTrailStatus",
                "cloudwatch:Describe*",
                "cloudwatch:Get*",
                "cloudwatch:List*",
                "codedeploy:List*",
                "codedeploy:BatchGet*",
                "directconnect:Describe*",
                "dynamodb:List*",
                "dynamodb:Describe*",
                "ec2:Describe*",
                "ecs:Describe*",
                "ecs:List*",
                "elasticache:Describe*",
                "elasticache:List*",
                "elasticfilesystem:DescribeFileSystems",
                "elasticfilesystem:DescribeTags",
                "elasticfilesystem:DescribeAccessPoints",
                "elasticloadbalancing:Describe*",
                "elasticmapreduce:List*",
                "elasticmapreduce:Describe*",
                "es:ListTags",
                "es:ListDomainNames",
                "es:DescribeElasticsearchDomains",
                "health:DescribeEvents",
                "health:DescribeEventDetails",
                "health:DescribeAffectedEntities",
                "kinesis:List*",
                "kinesis:Describe*",
                "lambda:AddPermission",
                "lambda:GetPolicy",
                "lambda:List*",
                "lambda:RemovePermission",
                "logs:TestMetricFilter",
                "logs:PutSubscriptionFilter",
                "logs:DeleteSubscriptionFilter",
                "logs:DescribeSubscriptionFilters",
                "rds:Describe*",
                "rds:List*",
                "redshift:DescribeClusters",
                "redshift:DescribeLoggingStatus",
                "route53:List*",
                "s3:GetBucketLogging",
                "s3:GetBucketLocation",
                "s3:GetBucketNotification",
                "s3:GetBucketTagging",
                "s3:ListAllMyBuckets",
                "s3:PutBucketNotification",
                "ses:Get*",
                "sns:List*",
                "sns:Publish",
                "sqs:ListQueues",
                "states:ListStateMachines",
                "states:DescribeStateMachine",
                "support:*",
                "tag:GetResources",
                "tag:GetTagKeys",
                "tag:GetTagValues",
                "xray:BatchGetTraces",
                "xray:GetTraceSummaries"
            ],
            "Effect": "Allow",
            "Resource": "*"
        }
    ]
}

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "cloudwatch:Get*",
                "cloudwatch:List*",
                "ec2:Describe*",
                "support:*",
                "tag:GetResources",
                "tag:GetTagKeys",
                "tag:GetTagValues"
            ],
            "Effect": "Allow",
            "Resource": "*"
        }
    ]
}

GovCloud と China

1. AWS インテグレーション タイルを開きます。
2. Access Keys (GovCloud or China Only) タブを選択します。
3. AWS アクセス キーと AWS 秘密キーを入力します。GovCloud と中国では、アクセス キーと秘密キーのみが許可されます。
4. ダイアログの左側で、メトリクスを収集するサービスを選択します。
5. オプションで、すべてのホストやメトリクスにタグを追加します。
6. オプションで、to hosts with tag テキストボックスに AWS タグを入力して、EC2 インスタンスのサブセットを監視します。
7. オプションで、to Lambdas with tag テキストボックスに AWS タグを入力して、Lambdas のサブセットを監視します。
8. Install Integration をクリックします。

ログの収集

AWSサービスログを Datadog に送信する方法はいくつかあります。

• Kinesis Firehose destination: Kinesis Firehose 配信ストリームで Datadog の宛先を使用して、ログを Datadog に転送します
• Cloudformation: S3 バケットまたは CloudWatch ロググループにサブスクライブする Datadog Lambda 関数をデプロイし、ログを Datadog に転送します

ログを複数の宛先に送信する場合、Kinesis Firehose 宛先の利用を強くお勧めします。CloudWatch Log グループは 1 つのサブスクライバーしか持てませんが、Kinesis ストリームは複数のサブスクライバーを持つことができます。Kinesis ストリームをロググループにサブスクライブさせることで、Kinesisストリームをサブスクライブしているログデータのコンシューマーを複数持つことができます。

収集データ

メトリクス

イベント

AWS のイベントは、AWS サービス ベースごとに収集されます。収集されるイベントの詳細については、各 AWS サービスの文書を参照してください。

タグ

AWS インテグレーションから以下のタグが収集されます。注: 一部のタグは、特定のメトリクスにのみ表示されます。

トラブルシューティング

CloudWatch と Datadog でデータの不一致があるように見える

以下の 2 つの重要な区別に注意する必要があります。

1. AWS のカウンターで「sum」に設定されているグラフでは、「1minute」に示される値は、その時点までの 1 分間の発生数の合計、つまり 1 分あたりのレートです。Datadog は、AWS で選択された時間フレームに関係なく 1 秒の値あたりに正規化された AWS の未加工データを表示します。そのため、Datadog で示される値が小さく感じられることがあります。
2. 全体を通じて、AWS での最小/最大/平均は、Datadog とは異なる意味を持ちます。AWS では、平均レイテンシー、最小レイテンシー、最大レイテンシーは、AWS が収集する 3 つの独自のメトリクスです。Datadog が AWS CloudWatch からメトリクスを取得するとき、平均レイテンシーは ELB ごとに 1 つの時系列として受信されます。Datadog 内で「min」、「max」、「avg」を選択している場合は、複数の時系列の組み合わせ方法を制御していることになります。たとえば、フィルターなしで system.cpu.idle をリクエストすると、そのメトリクスを報告する系列がホストごとに 1 つずつ返され、それらの系列を結合してグラフ化する必要があります。一方、1 つのホストから system.cpu.idle をリクエストした場合、集計は不要で、平均と最大を切り替えても結果は同じです。

メトリクスの遅延

AWS インテグレーションを使用している場合、Datadog は CloudWatch API からメトリクスを取得します。API に関していくつかの制約が存在するため、AWS のメトリクスにわずかな遅延が見られる場合があります。

そもそも、CloudWatch API で提供されるのは、データを取得するためのメトリクス別のクロールだけです。CloudWatch API にはレート制限があり、認証証明書、リージョン、サービスの組み合わせに基づいて変化します。アカウント レベルにより、AWS で使用できるメトリクスは異なります。たとえば、AWS 上で詳細なメトリクスに対して支払いを行うと、短時間で入手できるようになります。この詳細なメトリクスのサービスのレベルは粒度にも適用され、一部のメトリクスは 1 分ごと、それ以外は 5 分ごとに使用可能になります。

Datadog には、状況に応じてアカウント内の特定のメトリクスに優先順位をつけ、すばやく取り込む機能があります。詳細は、Datadog サポートまでご連絡ください。

遅延をほぼゼロでメトリクスを取得するには、ホストに Datadog Agent をインストールします。詳細については、Datadog のブログ投稿Agent は難しくない: Agent ベースの監視を参照してください。

メトリクスがない

CloudWatch の API は、データポイントとメトリクスのみを返します。そのため、たとえば、ELB に接続されているインスタンスがない場合は、Datadog でこの ELB に関連するメトリクスは表示されないことが予想されます。

aws.elb.healthy_host_count のカウントに誤りがある

ELB でクロスゾーン負荷分散オプションを有効にすると、この ELB に接続されているすべてのインスタンスは、すべてのアベイラビリティー ゾーンの一部であると見なされます (CloudWatch 側)。そのため、1a に 2 個、ab に 3 個のインスタンスがある場合、メトリクスはアベイラビリティー ゾーンごとに 5 つのインスタンスが表示されます。 このカウンターは直感的でないので、新しいメトリクス aws.elb.healthy_host_count_deduped と aws.elb.un_healthy_host_count_deduped を追加しています。これは、このクロスゾーン負荷分散オプションが有効かどうかに関係なく、アベイラビリティー ゾーンごとに正常または正常でないインスタンスのカウントを表示します。

Agent のインストール時にホストが重複する

AWS ホストに Agent をインストールし、Agent の構成でホスト名を手動で設定した場合、インフラ ページにホストが数時間、重複して表示されることがあります。この 2 番目のホストは数時間で消え、請求には影響しません。