MSK Connect 작업자 이해 - Amazon Managed Streaming for Apache Kafka

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

MSK Connect 작업자 이해

작업자는 커넥터 로직을 실행하는 Java 가상 머신(JVM) 프로세스입니다. 각 작업자는 병렬 스레드에서 실행되는 일련의 작업을 생성하고 데이터 복사 작업을 수행합니다. 작업은 상태를 저장하지 않으므로 탄력적이고 규모 조정 가능한 데이터 파이프라인을 제공하기 위해 언제든지 시작, 중지 또는 다시 시작할 수 있습니다. 확장 이벤트 또는 예기치 못한 장애로 인한 작업자 수 변경은 남은 작업자가 자동으로 감지합니다. 이들은 남은 작업자 세트에서 작업의 균형을 재조정하기 위해 조정합니다. Connect 작업자는 Apache Kafka의 소비자 그룹을 사용하여 조정하고 재조정합니다.

커넥터의 용량 요구 사항이 가변적이거나 예측하기 어려운 경우 MSK Connect가 지정한 하한과 상한 사이에서 필요에 따라 작업자 수를 조정하도록 할 수 있습니다. 또는 커넥터 로직을 실행할 정확한 작업자 수를 지정할 수 있습니다. 자세한 내용은 커넥터 용량 이해 단원을 참조하십시오.

MSK 작업자 연결에서 IP 주소 사용

MSK Connect 작업자는 고객 제공 서브넷에서 IP 주소를 사용합니다. 각 작업자는 고객이 제공한 서브넷 중 하나에서 하나의 IP 주소를 사용합니다. 지정된 용량을 고려하기 위해 CreateConnector 요청에 제공된 서브넷에 사용 가능한 IP 주소가 충분한지 확인해야 합니다. 특히 작업자 수가 변동할 수 있는 커넥터의 크기를 자동 조정할 때 더욱 그렇습니다.

기본 작업자 구성

MSK Connect는 다음과 같은 기본 작업자 구성을 제공합니다.

key.converter=org.apache.kafka.connect.storage.StringConverter value.converter=org.apache.kafka.connect.storage.StringConverter