Sistem ML produksi: Pelatihan statis versus dinamis

Secara umum, Anda dapat melatih model dengan salah satu dari dua cara berikut:

• Pelatihan statis (juga disebut pelatihan offline) berarti Anda melatih model hanya sekali. Kemudian, Anda menayangkan model terlatih yang sama selama beberapa waktu.
• Pelatihan dinamis (juga disebut pelatihan online) berarti Anda melatih model secara terus-menerus atau setidaknya sering. Anda biasanya menayangkan model yang baru saja dilatih.

Gambar 2. Pelatihan statis. Latih sekali; tayangkan model yang sama yang telah di-build beberapa kali. (Gambar oleh Pexels dan fancycrave1.)

 

Gambar 3. Pelatihan dinamis. Latih ulang secara rutin; tayangkan model yang baru dibuat. (Gambar oleh Pexels dan Couleur.)

 

Tabel 1. Kelebihan dan kekurangan utama.

	Pelatihan statis	Pelatihan dinamis
Kelebihan	Lebih sederhana. Anda hanya perlu mengembangkan dan menguji model sekali.	Lebih adaptif. Model Anda akan mengikuti setiap perubahan pada hubungan antara fitur dan label.
Kekurangan	Terkadang lebih lama. Jika hubungan antara fitur dan label berubah dari waktu ke waktu, prediksi model Anda akan menurun.	Lebih banyak pekerjaan. Anda harus mem-build, menguji, dan merilis produk baru setiap saat.

Jika set data Anda benar-benar tidak berubah seiring waktu, pilih pelatihan statis karena pembuatan dan pengelolaannya lebih murah daripada pelatihan dinamis. Namun, set data cenderung berubah dari waktu ke waktu, bahkan set data dengan fitur yang Anda kira konstan seperti, misalnya, permukaan laut. Kesimpulannya: meskipun dengan pelatihan statis, Anda tetap harus memantau perubahan data input.

Misalnya, pertimbangkan model yang dilatih untuk memprediksi probabilitas pengguna akan membeli bunga. Karena terbatasnya waktu, model ini hanya dilatih sekali menggunakan kumpulan data perilaku pembelian bunga selama bulan Juli dan Agustus. Model ini berfungsi dengan baik selama beberapa bulan, tetapi kemudian membuat prediksi yang buruk di sekitar Hari Valentine karena perilaku pengguna selama periode liburan bunga tersebut berubah secara drastis.

Untuk eksplorasi pelatihan statis dan dinamis yang lebih mendetail, lihat kursus Mengelola Project ML.

Latihan: Periksa pemahaman Anda

Dua pernyataan manakah yang benar tentang pelatihan statis (offline)?

Model akan terus diperbarui saat data baru tiba.

Sebenarnya, jika Anda melakukan pelatihan secara offline, model tidak akan dapat menggabungkan data baru saat data tersebut tiba. Hal ini dapat menyebabkan model menjadi tidak berlaku lagi, jika distribusi yang Anda coba pelajari berubah seiring waktu.

Anda dapat memverifikasi model sebelum menerapkannya dalam produksi.

Ya, pelatihan offline memberikan banyak peluang untuk memverifikasi performa model sebelum memperkenalkan model dalam produksi.

Pelatihan offline memerlukan lebih sedikit pemantauan tugas pelatihan (training job) daripada pelatihan online.

Secara umum, kebutuhan pemantauan pelatihan offline pada waktu pelatihan lebih sederhana, yang menghindarkan Anda dari banyak kerumitan di produksi. Namun, semakin sering Anda melatih model, semakin tinggi investasi yang perlu Anda lakukan dalam pemantauan. Anda juga sebaiknya memvalidasi secara rutin untuk memastikan bahwa perubahan pada kode (dan dependensinya) tidak berdampak buruk pada kualitas model.

Sangat sedikit pemantauan data input yang perlu dilakukan pada waktu inferensi.

Tidak seperti yang Anda duga, Anda perlu memantau data input pada waktu penayangan. Jika distribusi input berubah, prediksi model Anda mungkin menjadi tidak dapat diandalkan. Bayangkan, misalnya, model yang hanya dilatih dengan data pakaian musim panas tiba-tiba digunakan untuk memprediksi perilaku pembelian pakaian pada musim dingin.

Manakah dari pernyataan berikut yang benar tentang pelatihan dinamis (online)?

Model akan terus diperbarui saat data baru tiba.

Ini adalah manfaat utama pelatihan online; Anda dapat menghindari banyak masalah keusangan dengan mengizinkan model dilatih pada data baru saat data tersebut masuk.

Sangat sedikit pemantauan tugas pelatihan (training job) yang perlu dilakukan.

Sebenarnya, Anda harus terus memantau tugas pelatihan (training job) untuk memastikan bahwa tugas tersebut responsif dan bekerja sesuai harapan. Anda juga akan memerlukan infrastruktur pendukung seperti kemampuan untuk melakukan rollback terhadap model ke snapshot sebelumnya jika ada kesalahan dalam pelatihan, seperti tugas yang memiliki bug atau kerusakan dalam data masukan.

Sangat sedikit pemantauan data input yang perlu dilakukan pada waktu inferensi.

Sama seperti model offline statis, penting juga untuk memantau input ke model yang diperbarui secara dinamis. Anda mungkin tidak memiliki risiko terkait efek musiman yang besar, tetapi perubahan besar yang terjadi tiba-tiba pada masukan (seperti sumber data yang tiba-tiba mati) masih dapat menghasilkan prediksi yang tidak dapat diandalkan.

Istilah utama:

• Pelatihan dinamis
• Pelatihan statis