기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
이 단원에서는 Amazon Data Firehose 내의 현재 할당량(이전에는 제한이라고 함)에 대해 설명합니다. 각 할당량은 다르게 지정되지 않는 한 리전별로 적용됩니다.
Service Quotas 콘솔은 AWS 서비스에 대한 할당량을 보고 관리하고 사용하는 많은 리소스에 대한 할당량 증가를 요청할 수 있는 중앙 위치입니다. 제공하는 할당량 정보를 사용하여 AWS 인프라를 관리합니다. 실제로 필요할 시점보다 미리 할당량 증가를 요청하도록 계획하세요.
자세한 내용은 Amazon Web Services 일반 참조의 Amazon Data Firehose 엔드포인트 및 할당량을 참조하세요.
다음 섹션에서는 Amazon Data Firehose에 다음 할당량이 있음을 보여줍니다.
-
Amazon MSK를 Firehose 스트림의 소스로 사용하는 경우 각 Firehose 스트림의 기본 할당량은 파티션당 읽기 처리량 10MB/초 및 최대 레코드 크기 10MB입니다. 서비스 할당량 증가
를 사용하여 파티션당 읽기 처리량의 기본 할당량인 10MB/초를 늘리도록 요청할 수 있습니다. -
Amazon MSK를 Firehose 스트림의 소스로 사용하면 AWS Lambda가 활성화된 경우 최대 레코드 크기는 6MB이고 Lambda가 비활성화된 경우 최대 레코드 크기는 10MB입니다. AWS Lambda는 수신 레코드를 6MB로 제한하고 Amazon Data Firehose는 6Mb를 초과하는 레코드를 오류 S3 버킷에 전달합니다. Lambda가 비활성화된 경우 Firehose는 수신되는 레코드를 최대 10MB로 제한합니다. Amazon Data Firehose가 Amazon MSK로부터 10MB보다 큰 레코드 크기를 수신하는 경우, Amazon Data Firehose는 이 레코드를 S3 오류 버킷으로 전송하고 Cloudwatch 지표를 사용자 계정으로 보냅니다. AWS Lambda 제한에 대한 자세한 내용은 https://docs.aws.amazon.com/lambda/latest/dg/gettingstarted-limits.html://https://https://https://https://https://https://https://https://https://https://https://
-
Firehose 스트림에 동적 파티셔닝이 활성화된 경우 해당 Firehose 스트림에 대해 생성할 수 있는 활성 파티션의 기본 할당량은 500개입니다. 활성 파티션 수는 전송 버퍼 내에 있는 총 활성 파티션 개수입니다. 예를 들어 동적 파티셔닝 쿼리가 초당 3개의 파티션을 구성하고 60초마다 전송을 트리거하도록 버퍼 힌트가 구성된 경우, 활성 파티션은 평균적으로 180개가 됩니다. 파티션에 데이터가 전달된 이후에는 이 파티션은 더 이상 활성화되지 않습니다. Amazon Data Firehose Limit
양식을 사용하여 지정된 Firehose 스트림당 최대 5000개의 활성 파티션까지 이 할당량을 늘리도록 요청할 수 있습니다. 파티션이 더 필요하다면 더 많은 Firehose 스트림을 생성하여 그 전송 스트림에 걸쳐 활성 파티션을 분산시킬 수 있습니다. -
Firehose 스트림에 동적 파티셔닝이 활성화되면, 각 활성 파티션에 초당 1GB의 최대 처리량이 지원됩니다.
각 계정마다 리전당 Firehose 스트림 수에 대한 할당량은 다음과 같습니다.
미국 동부(버지니아 북부), 미국 서부(오레곤), 유럽(아일랜드), 아시아 태평양(도쿄): 5,000개의 Firehose 스트림
유럽(프랑크푸르트), 유럽(런던), 아시아 태평양(싱가포르), 아시아 태평양(시드니), 아시아 태평양(서울), 아시아 태평양(뭄바이), AWS GovCloud(미국 서부), 캐나다(서부), 캐나다(중부): Firehose 스트림 2,000개
유럽(파리), 유럽(밀라노), 유럽(스톡홀름), 아시아 태평양(홍콩), 아시아 태평양(오사카), 남아메리카(상파울루), 중국(닝샤), 중국(베이징), 중동(바레인), AWS GovCloud(미국 동부), 아프리카(케이프타운): 500개의 Firehose 스트림
유럽(취리히), 유럽(스페인), 아시아 태평양(하이데라바드), 아시아 태평양(자카르타), 아시아 태평양(멜버른), 중동(UAE), 이스라엘(텔아비브), 캐나다 서부(캘거리), 캐나다(중부), 아시아 태평양(말레이시아), 아시아 태평양(태국), 멕시코(중부): Firehose 스트림 100개
이 수를 초과한 경우 CreateDeliveryStream을 호출하면
LimitExceededException
예외가 발생합니다. 해당 리전에서 이 할당량을 사용할 수 있는 경우 이 할당량을 늘리려면 Service Quotas를 사용할 수 있습니다. Service Quotas 사용에 대한 자세한 내용은 할당량 증가 요청을 참조하세요. 해당 리전에서 Service Quotas가 제공되지 않는 경우 Amazon Data Firehose Limits 양식을 사용하여 증가를 요청할 수 있습니다.
-
Direct PUT이 데이터 소스로 구성된 경우 각각의 Firehose 스트림은 PutRecord 및 PutRecordBatch 요청에 대해 다음과 같이 결합된 할당량을 제공합니다.
-
미국 동부(버지니아 북부), 미국 서부(오레곤) 및 유럽(아일랜드)의 경우: 레코드 500,000개/초, 요청 2,000개/초, 5Mib/초.
-
기타 AWS 리전: 초당 100,000개의 레코드, 초당 1,000개의 요청, 초당 1MiB.
Firehose 스트림의 처리량 용량을 초과하는 데이터 수집 볼륨이 높아져 Direct PUT 스트림에 제한이 발생하는 경우 Amazon Data Firehose는 제한이 포함될 때까지 스트림의 처리량 제한을 자동으로 늘립니다. 처리량 증가 및 제한에 따라 Firehose가 스트림의 처리량을 원하는 수준으로 늘리는 데 더 오래 걸릴 수 있습니다. 따라서 실패한 데이터 수집 레코드를 계속 재시도합니다. 데이터 볼륨이 갑자기 큰 버스트에서 증가할 것으로 예상되거나 새 스트림에 기본 처리량 제한보다 높은 처리량이 필요한 경우 처리량 제한 증가를 요청하세요.
할당량 증가를 요청하려면 Amazon Data Firehose Limit
양식을 사용하세요. 세 할당량은 비례적으로 확장됩니다. 예를 들어, 미국 동부(버지니아 북부), 미국 서부(오레곤) 또는 유럽(아일랜드)의 처리량 할당량을 10MiB/초로 늘리면 나머지 두 할당량은 요청 4,000개/초 및 레코드 1,000,000개/초로 증가합니다. 참고
리소스 수준 제한 및 할당량을 서비스 사용을 제어하는 방법으로 사용하지 마십시오.
중요
증가한 할당량이 실행 중인 트래픽보다 훨씬 높을 경우, 대상으로 전송되는 배치가 작아집니다. 이는 비효율적이며 대상 서비스에서 비용이 더 높아질 수 있습니다. 현재 실행 중인 트래픽과 일치하는 할당량까지만 늘려야 하며, 트래픽이 증가하면 할당량을 더 늘려야 합니다.
중요
데이터 레코드가 작을수록 비용이 증가할 수 있다는 점에 유의하세요. Firehose 통합 요금
은 서비스에 전송하는 데이터 레코드의 수에 각 레코드의 크기를 가장 가까운 5KB(5120바이트) 단위로 반올림한 값을 곱한 값을 기준으로 합니다. 따라서 같은 양의 수신 데이터(바이트)에 대해 수신되는 레코드 수가 많을수록 비용이 더 올라갑니다. 예를 들어 총 수신 데이터 용량이 5MiB인 경우, 5,000개 이상의 레코드로 5MiB의 데이터를 보내는 것은 1,000개의 레코드를 사용하여 같은 양의 데이터를 전송하는 것에 비해 비용이 더 많이 듭니다. 자세한 내용은 AWS 계산기 의 Amazon Data Firehose를 참조하세요. 참고
Kinesis Data Streams가 데이터 소스로 구성되어 있으면 이 할당량이 적용되지 않아 Amazon Data Firehose가 아무런 제한 없이 확장/축소됩니다.
-
-
각 Firehose 스트림은, 가용 전송 대상이 없고 소스가 DirectPut인 경우 최대 24시간 동안 데이터 레코드를 저장합니다. 소스가 Kinesis Data Streams(KDS) 이고 대상을 사용할 수 없는 경우 데이터는 KDS 구성에 따라 보관됩니다.
-
Base64 인코딩 이전 Amazon Data Firehose로 전송되는 레코드의 최대 크기는 1,000KiB입니다.
-
PutRecordBatch 작업은 호출당 최대 500개의 레코드 또는 호출당 4MiB 중 더 작은 크기를 지원합니다. 이 할당량은 변경할 수 없습니다.
-
다음 작업은 각각 초당 최대 5개의 호출을 제공할 수 있으며, 이는 엄격하게 제한됩니다.
-
버퍼 간격 힌트의 범위는 60초 ~ 900초입니다.
-
Amazon Data Firehose에서 Amazon Redshift로 전송되는 경우 공개 액세스가 가능한 Amazon Redshift 클러스터만 지원됩니다.
-
재시도 시간 범위는 Amazon Redshift 및 OpenSearch Service 전송 모두 0초 ~ 7,200초입니다.
-
Firehose는 Elasticsearch 버전 - 1.5, 2.3, 5.1, 5.3, 5.5, 5.6 버전 뿐만 아니라 모든 6.*, 7.* 및 8.* 버전을 지원합니다. Firehose는 Amazon OpenSearch Service 2.x를 최대 2.11까지 지원합니다.
-
대상이 Amazon S3, Amazon Redshift 또는 OpenSearch Service인 경우 Amazon Data Firehose는 샤드당 최대 5개의 미해결 Lambda 호출을 허용합니다. Splunk에 대한 할당량은 샤드당 10개의 미해결 Lambda 호출입니다.
-
CUSTOMER_MANAGED_CMK
유형의 CMK를 사용하여 최대 500개의 Firehose 스트림을 암호화할 수 있습니다.