Data Streams MonitoringのKafka Consoleでは、Datadog AgentがチェックすることでKafkaクラスターに接続し、健全性とパフォーマンスのメトリクスの収集を開始します。Kafka Consoleでは、以下のことが可能です。

• Kafkaの健全性を監視する: スループット、ラグ、レプリケーションのメトリクスを使用して、クラスター、ブローカー、トピック、パーティションの健全性を確認します。
• 根本原因を特定: 構成とスキーマの変更をラグ、スループット、エラーと関連付け、トレースすることで、問題の原因となる正確なトピック、スキーマバージョン、または構成変更を特定します。
• サービスをトピックに接続: 各トピックに対して、どのプロデューサーとコンシューマーが連携しているかを確認し、リンクされた所有者、リポジトリ、オンコールローテーション、およびトレースする情報とエラーログを表示します。
• トピックのスキーマとメッセージを調査: スキーマの表示、バージョンの比較、メッセージへのアクセスを行い、不正なペイロードのデバッグやトピックの調査を行います。
• アラートと応答の自動化: 推奨モニターテンプレートを使用して、Kafkaの条件がトリガーされたときにWorkflow AutomationまたはWebhookを起動します。

開始するには、Kafka Consoleのセットアップを参照してください。

ワークフロー

クラスターの健全性とパフォーマンスの監視

Clusters、Topics、およびBrokersタブには、Kafkaインフラストラクチャー全体の健全性ステータスが表示されます。各トピックについて、パーティション数、レプリケーション不足およびオフラインのパーティション、メッセージスループット、コンシューマーラグを確認できます。

任意のトピックをクリックしてください。すると、受信メッセージレート、全パーティションの最大ラグ、および現在のラグが保持制限に近づいているかどうかを含む詳細な概要が表示されます。

任意のメトリクスから、Datadogモニター、SLO、ダッシュボードを作成できます。

構成とスキーマの変更を健全性メトリクスと関連付ける

変更イベントはスループットとラグのグラフに直接オーバーレイされるため、構成やスキーマの変更がパフォーマンスの低下と一致しているかどうかを確認できます。

何が変更されたかを正確に特定するには、オーバーレイ上で検出された変更をクリックし、View config changeを選択してください。

プロデューサーサービスとコンシューマーサービスをトピックに接続する

各トピックのProducersおよびConsumersセクションには、どのサービスがそのトピックから読み取り、書き込みを行っているかが表示されます。サービスにカーソルを合わせると、Service Catalogの所有権情報（チーム、コードリポジトリ、オンコールエンジニア、Slackチャンネル）が表示されます。

コンシューマーのラグが発生している場合やプロデューサーが正しく動作していない場合に、この情報を使用して適切なチームに連絡してください。

トピックのスキーマとメッセージを調査する

Schemaセクションには、トピックのキーまたは値の現在のスキーマとバージョン履歴が表示されます。バージョンセレクターを使用して、バージョン間でスキーマを比較します。

Messagesセクションでは、パーティションとオフセットを指定してメッセージを取得し、ペイロードを直接調査できます。これは、不正なペイロードのデバッグや、スキーマ変更後のメッセージ構造の検証に役立ちます。メッセージを取得するために必要な追加の前提条件と権限については、Enable message inspectionを参照してください。

参考資料

役立つドキュメント、リンク、記事:

Kafka Consoleを使用して、スタックのあらゆるレイヤーにわたるKafkaの問題をトラブルシューティングしてください。ブログ