本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
使用 EMRFS S3 優化遞交通訊協定
EMRFS S3 優化遞交通訊協定是替代性 FileCommitProtocol
請注意,使用 EMRFS S3 優化遞交者 也會藉由避免重新命名操作來改善效能。不過,它不適用於動態分割區覆寫的案例,而遞交通訊協定的改進僅針對動態分割區覆寫案例。
遞交通訊協定在 Amazon EMR 5.30.0 版和更高版本以及 6.2.0 版和更高版本中提供,並預設為啟用。Amazon EMR 從 5.31.0 版開始新增了平行處理改進。此通訊協定用於使用 Spark、DataFrames或資料集的 Spark 任務。在某些情況下將不會使用遞交通訊協定。如需詳細資訊,請參閱EMRFS S3 優化遞交通訊協定要求。