Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Mempercepat startup kontainer dengan SOCI
Pengindeksan SOCI (Seekable Open Container Initiative) memungkinkan pemuatan lambat gambar kontainer khusus di atau SageMaker Studio Amazon Amazon SageMaker Unified Studio. SOCI secara signifikan mengurangi waktu startup sekitar 30-70% untuk kontainer khusus Bawa gambar Anda sendiri (BYOI) Anda. Peningkatan latensi bervariasi tergantung pada ukuran gambar, ketersediaan instance hosting, dan dependensi aplikasi lainnya. SOCI membuat indeks yang memungkinkan kontainer diluncurkan hanya dengan komponen yang diperlukan, mengambil file tambahan sesuai permintaan sesuai kebutuhan.
SOCI membahas waktu startup kontainer yang lambat, yang mengganggu alur kerja pengembangan pembelajaran mesin berulang (ML), untuk gambar khusus. Karena beban kerja ML menjadi lebih kompleks, gambar kontainer telah tumbuh lebih besar, menciptakan penundaan startup yang menghambat siklus pengembangan.
Topik
Manfaat utama
-
Siklus iterasi yang lebih cepat: Kurangi startup kontainer, tergantung pada jenis gambar dan instance
-
Pengoptimalan universal: Memperluas manfaat kinerja ke semua wadah BYOI khusus di Studio
Cara kerja pengindeksan SOCI
SOCI membuat indeks metadata khusus yang memetakan struktur file internal gambar kontainer Anda. Indeks ini memungkinkan akses ke file individual tanpa mengunduh seluruh gambar. Indeks SOCI disimpan sebagai artefak yang sesuai dengan OCI (Open Container Initiative) di Amazon ECR dan ditautkan ke gambar kontainer asli Anda, menjaga intisari gambar dan validitas tanda tangan.
Saat Anda meluncurkan wadah di Studio, sistem menggunakan indeks SOCI untuk mengidentifikasi dan mengunduh hanya file penting yang diperlukan untuk memulai. Komponen tambahan diambil secara paralel karena aplikasi Anda memerlukannya.
Komponen arsitektur
-
Gambar wadah asli: Wadah dasar Anda disimpan di Amazon ECR
-
Artefak indeks SOCI: Metadata memetakan struktur file gambar Anda
-
Manifes Indeks Gambar OCI: Menautkan gambar asli Anda dan indeks SOCI
-
Runtime kontainer Finch: Mengaktifkan integrasi pemuatan lambat dengan Studio
Alat yang didukung
| Alat | Integrasi |
|---|---|
| nerdctl | Membutuhkan setup containerd |
| CLI Finch | Dukungan SOCI asli |
| Docker+SOCI CLI | Perkakas tambahan diperlukan |
Topik
