Mengukur kesamaan dari embedding

Sekarang Anda memiliki penyematan untuk setiap pasangan contoh. Pengukuran kesamaan yang diawasi menggunakan embeddings ini dan menampilkan angka yang mengukur kesamaannya. Ingat bahwa embedding adalah vektor angka. Untuk menemukan kemiripan antara dua vektor $A = [a_1,a_2,...,a_n]$ dan $B = [b_1,b_2,...,b_n]$, pilih salah satu dari tiga ukuran kemiripan ini:

Ukur	Arti	Formula	Seiring meningkatnya kesamaan, ukuran ini...
Jarak Euclidean	Jarak antara ujung vektor	$\sqrt{(a_1-b_1)^2+(a_2-b_2)^2+...+(a_N-b_N)^2}$	Menurun
Kosinus	Kosinus sudut $\theta$ antara vektor	$\frac{a^T b}{|a| \cdot |b|}$	Meningkatkan
Perkalian titik	Kosinus dikalikan dengan panjang kedua vektor	$a_1b_1+a_2b_2+...+a_nb_n$ $=|a||b|cos(\theta)$	Meningkat. Juga meningkat dengan panjang vektor.

Memilih ukuran kesamaan

Berbeda dengan kosinus, perkalian titik sebanding dengan panjang vektor. Hal ini penting karena contoh yang muncul sangat sering dalam set pelatihan (misalnya, video YouTube populer) cenderung memiliki vektor penyematan dengan panjang yang besar. Jika Anda ingin menangkap popularitas, pilih produk titik. Namun, risikonya adalah contoh populer dapat mendistorsi metrik kemiripan. Untuk menyeimbangkan kemiringan ini, Anda dapat menaikkan panjang ke eksponen $\alpha\ < 1$ untuk menghitung perkalian titik sebagai $|a|^{\alpha}|b|^{\alpha}\cos(\theta)$.

Untuk lebih memahami bagaimana panjang vektor mengubah pengukuran kemiripan, normalisasi panjang vektor menjadi 1 dan perhatikan bahwa ketiga pengukuran menjadi proporsional satu sama lain.

Bukti: Proporsionalitas Ukuran Kesamaan

Setelah menormalisasi a dan b sehingga $||a||=1$ dan $||b||=1$, ketiga ukuran ini terkait sebagai:

• Jarak Euclidean = $||a-b|| = \sqrt{||a||^2 + ||b||^2 - 2a^{T}b} = \sqrt{2-2\cos(\theta_{ab})}$.
• Perkalian titik = $|a||b| \cos(\theta_{ab}) = 1\cdot1\cdot \cos(\theta_{ab}) = cos(\theta_{ab})$.
• Kosinus = $\cos(\theta_{ab})$.

Dengan demikian, ketiga ukuran kesamaan tersebut setara karena proporsional dengan $cos(\theta_{ab})$.

Peninjauan ukuran kesamaan

Pengukuran kemiripan mengukur kemiripan antara sepasang contoh, relatif terhadap pasangan contoh lainnya. Kedua jenis, manual dan diawasi, dibandingkan di bawah ini:

Jenis	Cara membuat	Paling cocok untuk	Implikasi
Manual	Menggabungkan data fitur secara manual.	Set data kecil dengan fitur yang mudah digabungkan.	Memberikan insight tentang hasil penghitungan kesamaan. Jika data fitur berubah, Anda harus memperbarui pengukuran kemiripan secara manual.
Diawasi	Mengukur jarak antara penyematan yang dihasilkan oleh DNN yang diawasi.	Set data besar dengan fitur yang sulit digabungkan.	Tidak memberikan insight tentang hasil. Namun, DNN dapat otomatis beradaptasi dengan perubahan data fitur.