クラスター サイズの見積もり

This product is not supported for your selected Datadog site. ().
CloudPrem は Preview 版です

CloudPrem Preview に参加すると、新しいセルフ ホスト型のログ管理機能を利用できます。

Request Access

概要

適切なクラスター サイジングを行うことで、CloudPrem デプロイメントのパフォーマンス、コスト効率、信頼性を高い水準で維持できます。必要なサイズは、ログの取り込み量、クエリ パターン、ログ データの複雑さなど、いくつかの要因によって変わります。

このガイドでは、CloudPrem クラスターを構成する indexer、searcher、補助サービス、PostgreSQL データベースについて、初期設計の目安となる推奨値をまとめています。

まずは、想定する 1 日あたりのログ量とピーク時の取り込みレートを基準に見積もり、運用開始後にクラスターのパフォーマンスを監視しながら必要に応じて調整してください。

Indexer

Indexer は Datadog Agent からログを受け取り、処理、インデックス化を行ったうえで、オブジェクト ストレージに splits と呼ばれるインデックス ファイルとして保存します。取り込みスループットを安定して確保し、想定ログ量を無理なく処理するためには、適切なサイジングが欠かせません。

項目推奨値補足
パフォーマンスvCPU あたり 5 MB/s初期サイジングの目安となる基準スループットです。実際の性能は、ログの特性 (サイズ、属性数、ネストの深さ) に左右されます。
メモリvCPU あたり 4 GB RAM
最小 Pod サイズ2 vCPU、8 GB RAMindexer Pod の推奨最小構成です。
ストレージ容量最低 200 GBインデックス ファイルの作成およびマージ中に発生する一時データの保存に必要です。
ストレージ種別ローカル SSD (推奨)ローカル HDD やネットワーク接続型ブロック ストレージ (Amazon EBS、Azure Managed Disks) も使用できます。
ディスク I/OvCPU あたり約 20 MB/sAmazon EBS では、vCPU あたり 320 IOPS に相当します (64 KB IOPS を前提)。

1 日あたり 1 TB のログ (~11.6 MB/s) をインデックス化するには、次のように見積もります:

  1. vCPU を計算する: 11.6 MB/s ÷ vCPU あたり 5 MB/s ≈ 2.3 vCPU
  2. RAM を計算する: 2.3 vCPU × 4 GB RAM ≈ 9 GB RAM
  3. 余裕を持たせる: まずは 3 vCPU、12 GB RAM、200 GB ディスク を割り当てた indexer Pod 1 つから始めます。実際のパフォーマンスや冗長性の要件に応じて調整してください。

Searcher

Searcher は Datadog UI からの検索クエリを処理し、Metastore からメタ データを読み取り、必要なデータをオブジェクト ストレージから取得します。

一般的な出発点としては、indexer に割り当てた vCPU の合計数のおよそ 2 倍を searcher 用に見込むのが目安です。

  • パフォーマンス: 検索性能はワークロードに大きく左右されます (クエリの複雑さ、同時実行数、スキャン対象データ量など)。たとえば、ターム クエリ (status:error AND message:exception) は、通常、集計クエリよりも計算負荷が低くなります。
  • メモリ: searcher の vCPU あたり 4 GB RAM を目安にしてください。同時に多数の集計リクエストが発生する見込みがある場合は、さらに多めの RAM を割り当ててください。

その他のサービス

これらの軽量コンポーネントには、次のリソースを割り当てます:

サービスvCPURAMレプリカ数
Control Plane24 GB1
Metastore24 GB2
Janitor24 GB1

PostgreSQL データベース

  • インスタンス サイズ: 多くのユース ケースでは、1 vCPU と 4 GB RAM の PostgreSQL インスタンスで十分です。
  • AWS RDS の推奨構成: AWS RDS を使う場合は、t4g.medium インスタンス タイプを出発点にするのが適しています。
  • 高可用性: 高可用性を確保するには、待機レプリカ 1 台を含む Multi-AZ デプロイを有効にしてください。

Helm チャートのサイジング ティア

CloudPrem Helm チャートには、indexer.podSizesearcher.podSize パラメーターを通じて、あらかじめ定義されたサイジング ティアが用意されています。各ティアでは、Pod の vCPU とメモリのリソース上限が設定され、あわせてコンポーネント固有の設定も自動で調整されます。

サイズvCPUメモリ
medium14 GB
large28 GB
xlarge416 GB
2xlarge832 GB
4xlarge1664 GB
6xlarge2496 GB
8xlarge32128 GB

Helm チャートで indexer.podSize を設定すると、次の値が自動的に適用されます。各パラメーターの詳細は、Quickwit Indexer の設定 を参照してください。

サイズsplit_store_max_num_bytessplit_store_max_num_splits
medium200G10000
large200G10000
xlarge200G10000
2xlarge200G10000
4xlarge200G10000
6xlarge200G10000
8xlarge200G10000

Helm チャートで indexer.podSize を設定すると、次の値が自動的に適用されます。各パラメーターの詳細は、Quickwit Ingest API の設定 を参照してください。

サイズmax_queue_memory_usagemax_queue_disk_usage
medium2GiB4GiB
large4GiB8GiB
xlarge8GiB16GiB
2xlarge16GiB32GiB
4xlarge32GiB64GiB
6xlarge48GiB96GiB
8xlarge64GiB128GiB

Helm チャートで searcher.podSize を設定すると、searcher の構成に次の値が自動的に適用されます。各パラメーターの詳細は、Quickwit Searcher の設定 を参照してください。

サイズfast_field_cache_capacitysplit_footer_cache_capacitypartial_request_cache_capacitymax_num_concurrent_split_searchesaggregation_memory_limit
medium1GiB500MiB64MiB2500MiB
large2GiB1GiB128MiB41GiB
xlarge4GiB2GiB256MiB82GiB
2xlarge8GiB4GiB512MiB164GiB
4xlarge16GiB8GiB1GiB328GiB
6xlarge24GiB12GiB1536MiB4812GiB
8xlarge32GiB16GiB2GiB6416GiB

参考資料