Memahami jumlah tugas penskalaan otomatis maksimum - Amazon Managed Streaming untuk Apache Kafka

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memahami jumlah tugas penskalaan otomatis maksimum

maxAutoscalingTaskCountParameter ini adalah bidang kapasitas opsional yang tersedia untuk konektor penskalaan otomatis di Amazon MSK Connect. Parameter ini memungkinkan Anda untuk menetapkan batas atas pada jumlah maksimum tugas yang dapat dibuat selama operasi penskalaan otomatis konektor, memberikan kontrol yang lebih besar atas pemanfaatan dan kinerja sumber daya.

Saat Anda menggunakan mode kapasitas berskala otomatis, Amazon MSK Connect secara otomatis mengganti tasks.max properti konektor Anda dengan nilai yang sebanding dengan jumlah pekerja dan per pekerja. MCUs maxAutoscalingTaskCountParameter menyediakan opsi tambahan yang dapat dikonfigurasi untuk membatasi jumlah maksimum tugas yang dibuat untuk konektor Anda.

Kemampuan ini sangat berguna ketika Anda ingin mengontrol tingkat paralelisme dalam kaitannya dengan jumlah partisi topik di cluster Kafka Anda. Dengan menetapkan batas ini, Anda dapat mengoptimalkan kinerja dan mencegah distribusi tugas yang tidak efisien yang mungkin terjadi ketika jumlah tugas yang dihitung secara otomatis melebihi persyaratan beban kerja Anda.

Persyaratan konfigurasi

maxAutoscalingTaskCountParameter harus memenuhi persyaratan berikut:

maxAutoscalingTaskCount ≥ maxWorkerCount

Persyaratan ini memastikan pemanfaatan sumber daya yang efisien dengan mempertahankan setidaknya satu tugas per pekerja. Sistem memberlakukan minimum ini untuk mengoptimalkan fungsionalitas konektor.

Saat Anda menentukanmaxAutoscalingTaskCount, batas diterapkan segera setelah pembuatan konektor dan selama semua peristiwa penskalaan berikutnya. Karena jumlah pekerja meningkat atau berkurang selama operasi penskalaan otomatis, sistem terus menghormati batas ini. tasks.maxNilai menyesuaikan secara proporsional dengan jumlah pekerja dan MCUs per pekerja tetapi tidak pernah melebihi nilai yang dikonfigurasimaxAutoscalingTaskCount.

Jika Anda tidak menentukan parameter ini, konektor menggunakan perhitungan standar tanpa batas: tasks.max = workerCount × mcuCount × tasksPerMcu (di tasksPerMcu mana 2).

Kapan menggunakan maxAutoscalingTask Count

Pertimbangkan untuk menggunakan maxAutoscalingTaskCount dalam skenario berikut:

  • Jumlah partisi terbatas: Ketika topik Kafka Anda memiliki jumlah partisi tetap yang lebih rendah dari jumlah tugas yang dihitung secara otomatis, menetapkan batas mencegah pembuatan tugas idle tanpa pekerjaan yang harus dilakukan.

  • Optimalisasi kinerja: Jika Anda telah mengidentifikasi bahwa jumlah tugas tertentu memberikan throughput optimal untuk beban kerja Anda, Anda dapat membatasi tugas maksimum untuk mempertahankan kinerja yang konsisten.

  • Manajemen sumber daya: Ketika Anda ingin mengontrol paralelisme maksimum dan konsumsi sumber daya konektor Anda terlepas dari berapa banyak pekerja yang berjalan.

Contoh

Untuk konektor dengan konfigurasi berikut:

minWorkerCount: 1 maxWorkerCount: 4 mcuCount: 8 maxAutoscalingTaskCount: 15

TanpamaxAutoscalingTaskCount, ketika diskalakan ke 4 pekerja, konektor akan membuat 64 tugas (4 pekerja × 8 MCUs × 2 tugas per MCU). Dengan maxAutoscalingTaskCount diatur ke 15, konektor hanya membuat 15 tugas, yang mungkin lebih tepat jika topik Kafka Anda memiliki 15 atau lebih sedikit partisi.