Apa yang dimaksud dengan "generatif" dalam nama "Generative Adversarial Network"? "Generatif" menjelaskan class model statistik yang kontras dengan model diskriminatif.
Secara informal:
- Model Generatif dapat menghasilkan instance data baru.
- Model Diskriminatif membedakan berbagai jenis instance data.
Model generatif dapat menghasilkan foto baru hewan yang terlihat seperti hewan sungguhan, sedangkan model diskriminatif dapat membedakan dari kucing. GAN hanya salah satu jenis model generatif.
Secara lebih formal, dengan sekumpulan instance data X dan sekumpulan label Y:
- Model Generatif menangkap probabilitas gabungan p(X, Y), atau hanya p(X) jika tidak ada label.
- Model Diskriminatif menangkap probabilitas bersyarat p(Y | X).
Model generatif mencakup distribusi data itu sendiri, dan memberi tahu Anda kemungkinan contoh tertentu. Misalnya, model yang memprediksi kata berikutnya dalam urutan biasanya merupakan model generatif (biasanya jauh lebih sederhana daripada GAN) karena dapat menetapkan probabilitas ke urutan kata.
Model diskriminatif mengabaikan pertanyaan apakah instance tertentu kemungkinan akan terjadi, dan hanya memberi tahu Anda kemungkinan label akan diterapkan ke instance.
Perhatikan bahwa ini adalah definisi yang sangat umum. Ada banyak jenis model generatif. GAN hanyalah salah satu jenis model generatif.
Membuat Model Probabilitas
Kedua jenis model tersebut tidak harus menampilkan angka yang mewakili probabilitas. Anda dapat membuat model distribusi data dengan meniru distribusi tersebut.
Misalnya, pengklasifikasi diskriminatif seperti pohon keputusan dapat memberi label pada instance tanpa menetapkan probabilitas ke label tersebut. Pengklasifikasi tersebut masih akan menjadi model karena distribusi semua label yang diprediksi akan membuat model distribusi label yang sebenarnya dalam data.
Demikian pula, model generatif dapat membuat model distribusi dengan menghasilkan data "palsu" yang meyakinkan yang terlihat seperti diambil dari distribusi tersebut.
Model Generatif Sulit
Model generatif menangani tugas yang lebih sulit daripada model diskriminatif analog. Model generatif harus membuat model lebih banyak.
Model generatif untuk gambar dapat menangkap korelasi seperti "hal yang terlihat seperti perahu mungkin akan muncul di dekat hal yang terlihat seperti air" dan "mata tidak mungkin muncul di dahi". Ini adalah distribusi yang sangat rumit.
Sebaliknya, model diskriminatif mungkin mempelajari perbedaan antara "perahu layar" atau "bukan perahu layar" hanya dengan mencari beberapa pola yang mencolok. Hal ini dapat mengabaikan banyak korelasi yang harus dilakukan model generatif dengan benar.
Model diskriminatif mencoba menggambar batas di ruang data, sedangkan model generatif mencoba membuat model cara data ditempatkan di seluruh ruang. Misalnya, diagram berikut menunjukkan model diskriminatif dan generatif dari angka tulisan tangan:
Gambar 1: Model diskriminatif dan generatif dari digit tulisan tangan.
Model diskriminatif mencoba membedakan antara angka 0 dan 1 yang ditulis tangan dengan menggambar garis di ruang data. Jika garisnya benar, model ini dapat membedakan 0 dari 1 tanpa harus membuat model persis tempat instance ditempatkan di ruang data di kedua sisi garis.
Sebaliknya, model generatif mencoba menghasilkan angka 1 dan 0 yang meyakinkan dengan menghasilkan angka yang mendekati angka sebenarnya di ruang data. Model ini harus membuat model distribusi di seluruh ruang data.
GAN menawarkan cara yang efektif untuk melatih model yang kaya tersebut agar menyerupai distribusi yang sebenarnya. Untuk memahami cara kerjanya, kita perlu memahami struktur dasar GAN.
Memeriksa Pemahaman Anda: Model Generatif vs. Diskriminatif
- Lempar tiga dadu enam sisi.
- Kalikan roll dengan konstanta w.
- Ulangi 100 kali dan ambil rata-rata dari semua hasilnya.