為高輸送量設定 Amazon ECS 日誌

對於高日誌輸送量案例，我們建議您搭配 FireLens 和 使用awsfirelens日誌驅動程式Fluent Bit。 Fluent Bit 是一種輕量型日誌處理器，可有效處理數百萬筆日誌記錄。不過，大規模實現最佳效能需要調校其組態。

本節涵蓋處理高日誌輸送量的進階Fluent Bit最佳化技術，同時維持系統穩定性並確保不會遺失資料。

如需如何搭配 FireLens 使用自訂組態檔案的詳細資訊，請參閱 使用自訂組態檔案。如需其他範例，請參閱 GitHub 上的 Amazon ECS FireLens 範例。

了解區塊

Fluent Bit 會以稱為區塊的單位處理資料。當 INPUT 外掛程式接收資料時，引擎會建立區塊，在傳送至 OUTPUT 目的地之前存放在記憶體或檔案系統上。

緩衝行為取決於 INPUT 區段中的storage.type設定。根據預設， Fluent Bit會使用記憶體緩衝。對於高輸送量或生產案例，檔案系統緩衝可提供更好的彈性。

如需詳細資訊，請參閱 Fluent Bit 文件中的區塊和什麼是區塊？ 中 AWS Fluent Bit的範例儲存庫。

記憶體緩衝 （預設）

根據預設， Fluent Bit會使用記憶體緩衝 (storage.type memory)。您可以使用 Mem_Buf_Limit 參數限制每個 INPUT 外掛程式的記憶體用量。

下列範例顯示記憶體緩衝的輸入組態：

[INPUT]
    Name          tcp
    Tag           ApplicationLogs
    Port          5170
    storage.type  memory
    Mem_Buf_Limit 5MB

[input] tcp.1 paused (mem buf overlimit)

記憶體緩衝適用於日誌輸送量低至中等的簡單使用案例。對於需要資料遺失的高輸送量或生產案例，請改用檔案系統緩衝。

如需詳細資訊，請參閱 Fluent Bit 文件中的緩衝和記憶體，以及 中的僅限記憶體緩衝 AWS ，以取得Fluent Bit範例儲存庫。

檔案系統緩衝

對於高輸送量案例，建議使用檔案系統緩衝。如需有關 如何Fluent Bit管理緩衝和儲存的詳細資訊，請參閱 Fluent Bit 文件中的緩衝和儲存。

檔案系統緩衝提供下列優點：

若要啟用檔案系統緩衝，請提供自訂Fluent Bit組態檔案。下列範例顯示建議的組態：

[SERVICE]
    # Flush logs every 1 second
    Flush 1
    # Wait 120 seconds during shutdown to flush remaining logs
    Grace 120
    # Directory for filesystem buffering
    storage.path             /var/log/flb-storage/
    # Limit chunks stored 'up' in memory (reduce for memory-constrained environments)
    storage.max_chunks_up    32
    # Flush backlog chunks to destinations during shutdown (prevents log loss)
    storage.backlog.flush_on_shutdown On

[INPUT]
    Name forward
    unix_path /var/run/fluent.sock
    # Run input in separate thread to prevent blocking
    threaded true
    # Enable filesystem buffering for persistence
    storage.type filesystem

[OUTPUT]
    Name cloudwatch_logs
    Match *
    region us-west-2
    log_group_name /aws/ecs/my-app
    log_stream_name $(ecs_task_id)
    # Use multiple workers for parallel processing
    workers 2
    # Retry failed flushes up to 15 times
    retry_limit 15
    # Maximum disk space for buffered data for this output
    storage.total_limit_size 10G

金鑰組態參數：

如需詳細資訊，請參閱 Fluent Bit 文件中的檔案系統緩衝，以及 AWS 中Fluent Bit的範例儲存庫中的檔案系統和記憶體緩衝。

了解 storage.total_limit_size

每個 OUTPUT 外掛程式上的 storage.total_limit_size 參數會控制該輸出緩衝資料的磁碟空間上限。達到此限制時，會捨棄該輸出的最舊記錄，為新資料騰出空間。當磁碟空間完全用盡時， Fluent Bit 無法將記錄排入佇列，而且會遺失。

使用以下公式storage.total_limit_size，根據您的日誌速率和所需的復原時段計算適當的 ：

If log rate is in KB/s, convert to MB/s first:
log_rate (MB/s) = log_rate (KB/s) / 1000

storage.total_limit_size (GB) = log_rate (MB/s) × duration (hours) × 3600 (seconds/hour) / 1000 (MB to GB)

下表顯示常見日誌速率和復原時段的範例計算：

若要觀察尖峰輸送量並選擇適當的緩衝區大小，請使用量值輸送量 FireLens 範例。

使用公式、範例計算和基準測試，選擇適合storage.total_limit_size的執行通道，以便在中斷期間進行最佳復原。

Amazon ECS 任務儲存需求

在 OUTPUT 區段中加總所有storage.total_limit_size值，並新增額外負荷緩衝區。此總計會決定 Amazon ECS 任務定義中所需的儲存空間。例如，3 個輸出 × 10 GB，每個 = 30 GB + 緩衝 (5–10 GB) = 總共需要 35–40 GB。如果總計超過可用儲存體， Fluent Bit可能會無法將記錄排入佇列，而且會遺失。

可用的儲存選項如下：

如需資料磁碟區的詳細資訊，請參閱 Amazon ECS 任務的儲存選項。

最佳化輸出組態

網路問題、服務中斷和目的地限流可防止日誌交付。適當的輸出組態可確保彈性而不會遺失資料。

當輸出排清失敗時， Fluent Bit可以重試 操作。下列參數控制重試行為：

重試之間的等待時間使用指數退避與抖動：

wait_time = random(base, min(base × 2^retry_number, cap))

例如，使用 scheduler.base 10和 scheduler.cap 60：

如需詳細資訊，請參閱 Fluent Bit 文件中的設定重試和聯網的等待時間。 https://docs.fluentbit.io/manual/administration/networking

[SERVICE] 區段中的 Grace 參數會設定關機期間Fluent Bit等待的時間，以排清緩衝的資料。Grace 期間必須與容器的 協調stopTimeout。在接收 之前，請確定 stopTimeout超過允許 Fluent Bit完成排清的Grace期間SIGKILL。例如，如果 Grace是 120 秒，請將 stopTimeout設定為 150 秒。

下列範例顯示完整Fluent Bit組態，其中包含高輸送量案例的所有建議設定：

[SERVICE]
    # Flush logs every 1 second
    Flush 1
    # Wait 120 seconds during shutdown to flush remaining logs
    Grace 120
    # Directory for filesystem buffering
    storage.path             /var/log/flb-storage/
    # Limit chunks stored 'up' in memory (reduce for memory-constrained environments)
    storage.max_chunks_up    32
    # Flush backlog chunks to destinations during shutdown (prevents log loss)
    storage.backlog.flush_on_shutdown On
    # Minimum seconds between retries
    scheduler.base           10
    # Maximum seconds between retries (exponential backoff cap)
    scheduler.cap            60

[INPUT]
    Name forward
    unix_path /var/run/fluent.sock
    # Run input in separate thread to prevent blocking
    threaded true
    # Enable filesystem buffering for persistence
    storage.type filesystem

[OUTPUT]
    Name cloudwatch_logs
    Match *
    region us-west-2
    log_group_name /aws/ecs/my-app
    log_stream_name $(ecs_task_id)
    # Use multiple workers for parallel processing
    workers 2
    # Retry failed flushes up to 15 times
    retry_limit 15
    # Maximum disk space for buffered data for this output
    storage.total_limit_size 10G

了解資料遺失案例

長時間中斷或輸出目的地發生問題時，記錄可能會遺失。本指南中的組態建議是將資料遺失降至最低的最佳方法，但無法保證長時間故障期間的零遺失。了解這些案例可協助您設定 Fluent Bit以最大化彈性。

記錄可能會以兩種方式遺失：儲存填滿時會捨棄最舊的記錄，或是在系統無法接受更多資料時拒絕最新的記錄。

捨棄的最早記錄

當重試嘗試用盡或storage.total_limit_size填滿且需要為新資料騰出空間時，會捨棄最舊的緩衝記錄。

拒絕的最新記錄

當磁碟空間耗盡或輸入因 而暫停時，會捨棄最新的記錄Mem_Buf_Limit。

將資料遺失降至最低的最佳實務

請考慮下列最佳實務，將資料遺失降至最低：

使用多目的地記錄來確保可靠性

將日誌傳送至多個目的地可消除單一失敗點。例如，如果 CloudWatch Logs 遇到中斷，則日誌仍會到達 Amazon S3。

多目的地記錄提供下列優點。Amazon S3 輸出外掛程式也支援壓縮選項，例如 gzip 和 Parquet 格式，這可以降低儲存成本。如需詳細資訊，請參閱 Fluent Bit 文件中的 S3 壓縮。

多目的地記錄可提供下列優點：

下列Fluent Bit組態會將日誌傳送至 CloudWatch Logs 和 Amazon S3：

[OUTPUT]
    Name cloudwatch_logs
    Match *
    region us-west-2
    log_group_name /aws/ecs/my-app
    log_stream_name $(ecs_task_id)
    workers 2
    retry_limit 15

[OUTPUT]
    Name s3
    Match *
    bucket my-logs-bucket
    region us-west-2
    total_file_size 100M
    s3_key_format /fluent-bit-logs/$(ecs_task_id)/%Y%m%d/%H/%M/$UUID
    upload_timeout 10m
    # Maximum disk space for buffered data for this output
    storage.total_limit_size 5G

兩個輸出都使用相同的Match *模式，因此所有記錄都會獨立傳送至兩個目的地。在某個目的地中斷期間，日誌會繼續流向另一個目的地，而失敗的排清會在檔案系統緩衝區中累積以供稍後重試。

將檔案型記錄與尾端輸入外掛程式搭配使用

對於日誌遺失至關重要的輸送量案例，您可以使用替代方法：讓應用程式將日誌寫入磁碟上的檔案，並設定 Fluent Bit 使用tail輸入外掛程式讀取它們。此方法完全略過 Docker 記錄驅動程式層。

使用 tail 外掛程式以檔案為基礎的記錄可提供下列優點：

若要使用此方法，您的應用程式必須將日誌寫入檔案，而不是 stdout。應用程式容器和Fluent Bit容器都會掛載存放日誌檔案的共用磁碟區。

下列範例顯示具有最佳實務的尾端輸入組態：

[INPUT]
    Name tail
    # File path or glob pattern to tail
    Path /var/log/app.log
    # Database file for storing file offsets (enables resuming after restart)
    DB /var/log/flb_tail.db
    # when true, controls that only fluent-bit will access the database (improves performance)
    DB.locking true
    # Skip long lines instead of skipping the entire file
    Skip_Long_Lines On
    # How often (in seconds) to check for new files matching the glob pattern
    Refresh_Interval 10
    # Extra seconds to monitor a file after rotation to account for pending flush
    Rotate_Wait 30
    # Maximum size of the buffer for a single line
    Buffer_Max_Size 10MB
    # Initial allocation size for reading file data
    Buffer_Chunk_Size 1MB
    # Maximum memory buffer size (tail pauses when full)
    Mem_Buf_Limit 75MB

使用尾端輸入外掛程式時，請考慮下列事項：

如需詳細資訊，請參閱 Fluent Bit 文件中的 Tail。如需最佳實務，請參閱《》中的 Tail config with best practices AWS for Fluent Bit troubleshooting guide。

直接記錄到 FireLens

在任務定義中指定 awsfirelens 日誌驅動程式時，Amazon ECS 代理程式會將下列環境變數插入容器中：

您可以使用這些環境變數，使用 Fluent Forward 通訊協定直接從應用程式程式碼登入Fluent Bit日誌路由器，而不是寫入 stdout。此方法略過 Docker 記錄驅動程式層，可提供下列優點：

下列 Fluent 記錄程式庫支援 Fluent Forward 通訊協定，可用於將日誌直接傳送到 Fluent Bit：

設定 Docker 緩衝區限制

當您建立任務定義時，您可以透過在 中指定 值，來指定在記憶體中緩衝的日誌行數log-driver-buffer-limit。這會控制 Docker 和 之間的緩衝區Fluent Bit。如需詳細資訊，請參閱 Docker 文件中的 Fluentd 登入驅動程式。

請在有高輸送量時使用此選項，原因是 Docker 可能會耗盡緩衝區記憶體，並捨棄緩衝區訊息，以便新增新訊息。

使用此選項時，請考慮下列事項：

下列任務定義說明如何設定 log-driver-buffer-limit：

{
    "containerDefinitions": [
        {
            "name": "my_service_log_router",
            "image": "public.ecr.aws/aws-observability/aws-for-fluent-bit:3",
            "cpu": 0,
            "memoryReservation": 51,
            "essential": true,
            "firelensConfiguration": {
                "type": "fluentbit"
            }
        },
        {
            "essential": true,
            "image": "public.ecr.aws/docker/library/httpd:latest",
            "name": "app",
            "logConfiguration": {
                "logDriver": "awsfirelens",
                "options": {
                    "Name": "firehose",
                    "region": "us-west-2",
                    "delivery_stream": "my-stream",
                    "log-driver-buffer-limit": "52428800"
                }
            },
            "dependsOn": [
                {
                    "containerName": "my_service_log_router",
                    "condition": "START"
                }
            ],
            "memoryReservation": 100
        }
    ]
}