Jaringan Neural Multikelas

Sebelumnya, Anda menemukan model klasifikasi biner yang dapat memilih antara satu dari dua pilihan, seperti apakah:

  • Email tertentu merupakan spam atau bukan spam.
  • Tumor tertentu bersifat ganas atau jinak.

Dalam modul ini, kita akan menyelidiki klasifikasi multi-class, yang dapat dipilih dari beberapa kemungkinan. Contoh:

  • Apakah anjing ini anjing beagle, basset, atau anjing darah?
  • Apakah bunga ini merupakan bunga Iris Siberia, Iris Belanda, Iris Bendera Biru, atau Iris Janggut Berduri?
  • Apakah pesawat itu merupakan jenis Boeing 747, Airbus 320, Boeing 777, atau Embraer 190?
  • Apakah ini gambar apel, beruang, permen, anjing, atau telur?

Beberapa masalah multi-class di dunia nyata melibatkan pemilihan dari jutaan class yang terpisah. Misalnya, pertimbangkan model klasifikasi multi-class yang dapat mengidentifikasi gambar apa saja.

Jaringan Neural Multikelas

  • Regresi logistik memberikan probabilitas yang berguna untuk masalah kelas biner.
    • spam / bukan spam
    • klik / bukan klik
  • Bagaimana dengan soal multi-class?
    • apel, pisang, mobil, kardiolog, ..., tanda jalan, zebra, kebun binatang
    • merah, oranye, kuning, hijau, biru, indigo, violet
    • hewan, sayuran, mineral
  • Membuat output unik untuk setiap kemungkinan class
  • Latih itu berdasarkan sinyal "kelas saya" vs "semua kelas lainnya"
  • Dapat dilakukan di jaringan dalam, atau dengan model terpisah
Jaringan neural dengan lima lapisan tersembunyi dan lima lapisan output.
  • Menambahkan batasan tambahan: Mewajibkan output semua node satu vs.semua untuk berjumlah 1,0
  • Batasan tambahan membantu pelatihan bertemu dengan cepat
  • Selain itu, mengizinkan output untuk ditafsirkan sebagai kemungkinan
Jaringan neural dalam dengan lapisan input, dua lapisan tersembunyi yang tidak memiliki deskripsi, kemudian lapisan Softmax, dan terakhir lapisan output dengan jumlah node yang sama dengan lapisan Softmax.
  • Klasifikasi Multi-Class dan Label Tunggal:
    • Contohnya adalah anggota dari satu kelas saja.
    • Batasan class yang saling eksklusif adalah struktur yang bermanfaat.
    • Hal ini berguna untuk mengenkode dalam kerugian.
    • Gunakan satu kerugian softmax untuk semua kemungkinan kelas.
  • Klasifikasi Multi-Kelas Multi-Label:
    • Contohnya dapat menjadi anggota dari lebih dari satu kelas.
    • Tidak ada batasan tambahan terkait keanggotaan kelas yang dapat dimanfaatkan.
    • Satu kerugian regresi logistik untuk setiap kemungkinan class.
  • SoftMax Penuh
    • Brute force; menghitung untuk semua kelas.
  • SoftMax Penuh
    • Brute force; menghitung untuk semua kelas.
  • Pengambilan Sampel Kandidat
    • Menghitung semua label positif, tetapi hanya untuk sampel negatif acak.
Sebelumnya
Praktik Terbaik
Berikutnya
Satu vs. Semua