Biến phân biệt

Giá trị phân biệt trong GAN chỉ đơn giản là một bộ phân loại. Phương thức này cố gắng phân biệt dữ liệu thực với dữ liệu do trình tạo tạo ra. Mô hình này có thể sử dụng bất kỳ cấu trúc mạng nào phù hợp với loại dữ liệu mà nó đang phân loại.

Sơ đồ về mạng đối kháng tạo sinh. Ở giữa sơ đồ là một hộp có nhãn "bộ phân biệt". Hai nhánh cấp dữ liệu vào hộp này từ bên trái.  Nhánh trên cùng bắt đầu ở phía trên bên trái của sơ đồ với một hộp có nhãn "hình ảnh thực tế". Một mũi tên dẫn từ hình trụ này đến một hộp có nhãn "Mẫu". Một mũi tên từ hộp có nhãn "Mẫu" sẽ chuyển vào hộp "Đặc tính phân biệt". Nhánh dưới cùng sẽ chuyển vào hộp "Discriminator" (Đặc tính phân biệt) bắt đầu bằng một hộp có nhãn "Random Input" (Dữ liệu đầu vào ngẫu nhiên). Một mũi tên dẫn từ hộp "Random Input" (Dữ liệu đầu vào ngẫu nhiên) đến một hộp có nhãn "Generator" (Trình tạo). Một mũi tên dẫn từ hộp "Trình tạo" đến hộp "Mẫu" thứ hai. Một mũi tên dẫn từ hộp "Mẫu" đến hộp "Đặc tính phân biệt". Ở bên phải hộp Discriminator (Bộ phân biệt), hai mũi tên dẫn đến hai hộp ở bên phải sơ đồ. Một mũi tên dẫn đến một hộp có nhãn "Mất giá trị phân biệt". Mũi tên còn lại dẫn đến một hộp có nhãn "Mất mát của máy phát". Một hộp màu vàng được gắn nhãn bằng mũi tên chỉ sang trái và chữ "Backpropagation" (Truyền ngược) được vẽ xung quanh hộp discriminator (bộ phân biệt) và hộp discriminator loss (mất bộ phân biệt) để cho biết rằng quá trình truyền ngược hoạt động trên phần hệ thống được bao bọc trong hộp màu vàng.

Hình 1: Truyền ngược trong quá trình huấn luyện bộ phân biệt.

Dữ liệu huấn luyện đối tượng phân biệt

Dữ liệu huấn luyện của hàm phân biệt đến từ hai nguồn:

  • Các thực thể dữ liệu thực, chẳng hạn như ảnh chân dung người thật. Bộ phân biệt sử dụng các thực thể này làm ví dụ tích cực trong quá trình huấn luyện.
  • Các thực thể dữ liệu giả do trình tạo tạo. Bộ phân biệt sử dụng các thực thể này làm ví dụ âm trong quá trình huấn luyện.

Trong Hình 1, hai hộp "Mẫu" đại diện cho hai nguồn dữ liệu này được đưa vào bộ phân biệt. Trong quá trình huấn luyện bộ phân biệt, trình tạo không được huấn luyện. Các trọng số của hàm này không đổi trong khi tạo các ví dụ để hàm phân biệt huấn luyện.

Huấn luyện bộ phân biệt

Bộ phân biệt kết nối với hai hàm mất. Trong quá trình huấn luyện bộ phân biệt, bộ phân biệt sẽ bỏ qua tổn thất của trình tạo và chỉ sử dụng tổn thất của bộ phân biệt. Chúng ta sử dụng tổn hao của trình tạo trong quá trình huấn luyện trình tạo, như mô tả trong phần tiếp theo.

Trong quá trình huấn luyện bộ phân biệt:

  1. Bộ phân biệt phân loại cả dữ liệu thực và dữ liệu giả từ trình tạo.
  2. Lỗ hổng phân biệt sẽ phạt đối tượng phân biệt vì phân loại sai một thực thể thực là giả hoặc một thực thể giả là thực.
  3. Bộ phân biệt cập nhật trọng số thông qua phương pháp truyền ngược từ tổn thất của bộ phân biệt thông qua mạng phân biệt.

Trong phần tiếp theo, chúng ta sẽ xem lý do tổn thất của bộ tạo kết nối với giá trị phân biệt.