Thông tin cơ bản: Mô hình sáng tạo là gì?

"generative" có nghĩa là gì trong tên "Adverative Adversative Network"? "Tạo ra" mô tả một lớp các mô hình thống kê tương phản với các mô hình phân biệt.

Không chính thức:

  • Các mô hình tạo dữ liệu có thể tạo các thực thể dữ liệu mới.
  • Mô hình phân biệt đối xử được phân biệt giữa các loại bản sao dữ liệu khác nhau.

Mô hình tạo ra có thể tạo ra các ảnh mới về động vật trông giống như động vật có thật, trong khi mô hình phân biệt có thể cho một con chó biết từ mèo. GAN chỉ là một loại mô hình lai tạo.

Chính thức hơn, cho một tập hợp các phiên bản dữ liệu X và một tập hợp nhãn Y:

  • Mô hình tạo bậc ghi lại xác suất chung p(X, Y) hoặc chỉ p(X) nếu không có nhãn.
  • Mô hình phân biệt sẽ cho biết xác suất có điều kiện p(Y | X).

Mô hình tạo rộng bao gồm cả việc phân phối dữ liệu và cho bạn biết một ví dụ nhất định có khả năng như thế nào. Ví dụ: các mô hình dự đoán từ tiếp theo trong một trình tự thường là các mô hình tạo (thường đơn giản hơn nhiều so với GAN) vì chúng có thể gán xác suất cho một chuỗi từ.

Mô hình phân biệt bỏ qua câu hỏi về việc một phiên bản có thể xảy ra hay không, và chỉ cho bạn biết nhãn có thể áp dụng cho phiên bản đó hay không.

Xin lưu ý rằng đây là định nghĩa rất chung chung. Có nhiều loại mô hình tạo. GAN chỉ là một loại mô hình phát sinh.

Xác suất lập mô hình

Không loại mô hình nào phải trả về một số đại diện cho xác suất. Bạn có thể lập mô hình phân phối dữ liệu bằng cách mô phỏng sự phân phối đó.

Ví dụ: một thuật toán phân loại phân biệt như cây quyết định có thể gắn nhãn cho một thực thể mà không cần xác định nhãn đó. thuật toán phân loại như vậy vẫn sẽ là mô hình vì việc phân phối tất cả nhãn được dự đoán sẽ mô hình hoá việc phân phối nhãn thực trong dữ liệu.

Tương tự, mô hình tạo có thể lập mô hình phân phối bằng cách tạo ra & thuyết phục" giả & quot; dữ liệu giống như được rút ra từ phân phối đó.

Các mô hình phái sinh khó

Mô hình tạo chung xử lý một tác vụ khó hơn các mô hình phân biệt tương tự. Các mô hình tạo phải lập mô hình thêm.

Một mô hình tạo hình ảnh có thể thu thập các mối tương quan như "những thứ có vẻ như thuyền có thể sẽ xuất hiện gần những thứ trông giống như nước" và "mắt không có khả năng xuất hiện trên trán." Đây là những bản phân phối rất phức tạp.

Ngược lại, một mô hình phân biệt đối xử có thể tìm hiểu sự khác biệt giữa "sailboat" hoặc "không phải thuyền buồm" bằng cách chỉ tìm kiếm một vài mẫu câu chuyện. Nó có thể bỏ qua nhiều mối tương quan mà mô hình tạo phải thực hiện đúng.

Các mô hình phân biệt cố gắng vẽ ranh giới trong không gian dữ liệu, trong khi các mô hình tổng hợp cố gắng mô hình hóa cách đặt dữ liệu trong không gian. Ví dụ: sơ đồ dưới đây cho thấy các mô hình phân biệt đối xử và phân biệt chữ số viết tay:

Hai biểu đồ, một biểu đồ có nhãn 'Mô hình phân biệt&hl=vi&&3; Cả hai biểu đồ đều cho thấy bốn điểm dữ liệu giống nhau. Mỗi điểm sẽ được gắn nhãn bằng hình ảnh chữ số viết tay mà điểm đó đại diện. Trong biểu đồ phân biệt,
 có một đường chấm phân tách hai điểm dữ liệu khỏi
 2 điểm dữ liệu còn lại. Khu vực phía trên đường nét đứt được gắn nhãn &g/33; ==0 & 39; và vùng bên dưới dòng được gắn nhãn &hl=vi & # 39; y = 1 & 39; Trong biểu đồ chung, hai vòng tròn chấm chấm vẽ xung quanh hai cặp điểm. Vòng tròn trên cùng có gắn nhãn \39; y=0\ 39; vòng tròn dưới cùng được gắn nhãn <39;y=1

Hình 1: Mô hình phân biệt và tạo số hoá gồm các chữ số viết tay.

Mô hình phân biệt đối xử cố gắng phân biệt giữa chữ viết tay 0&36s bằng cách vẽ một đường trong không gian dữ liệu. Nếu nó xác định được đúng dòng, nó có thể phân biệt 0\39;1 từ 1&39; mà không cần phải lập mô hình chính xác vị trí đặt các phiên bản trong không gian dữ liệu ở một trong hai bên của dòng.

Ngược lại, mô hình tạo cố gắng tạo ra các điểm số 1&39;s Nó phải lập mô hình phân phối trong toàn bộ không gian dữ liệu.

GAN cung cấp một cách hiệu quả để đào tạo các mô hình nhiều định dạng đó cho giống với một phân phối thực tế. Để hiểu cách các phần mềm này hoạt động, chúng ta cần hiểu rõ cấu trúc cơ bản của một GAN.

Kiểm tra kiến thức của bạn: Mô hình phân biệt so với mô hình phân biệt đối xử

Bạn có điểm số IQ cho 1000 người. Bạn lập mô hình việc phân phối điểm IQ theo quy trình sau:
  1. Đổ xúc xắc ba mặt.
  2. Nhân xúc xắc với một hằng số w.
  3. Lặp lại 100 lần và lấy giá trị trung bình của tất cả kết quả.
Bạn thử nghiệm các giá trị khác nhau trong w cho đến khi kết quả của quy trình bằng với điểm trung bình của IQ thực. Mô hình của bạn là mô hình sáng tạo hay mô hình phân biệt đối xử?
Mô hình sáng tạo
Chính xác: với mỗi lần tung xúc xắc, bạn sẽ tạo ra chỉ số IQ của một người tưởng tượng. Hơn nữa, mô hình phát sinh của bạn ghi lại thực tế rằng điểm IQ được phân phối bình thường (nghĩa là trên đường cong chuông).
Mô hình phân biệt đối xử
Không chính xác: một mô hình phân biệt tương tự sẽ cố phân biệt các loại điểm số IQ. Ví dụ: một mô hình phân biệt đối xử có thể cố gắng phân loại chỉ số IQ là giả mạo hoặc thực tế.
Không đủ thông tin để nói.
Mô hình này thực sự phù hợp với định nghĩa của một trong hai mô hình của chúng tôi.
Mô hình sẽ trả về xác suất khi bạn cung cấp cho thực thể dữ liệu đó. Mô hình này là mô hình sáng tạo hay mô hình phân biệt đối xử?
Mô hình sáng tạo
Mô hình tạo có thể ước tính xác suất của thực thể cũng như xác suất của một nhãn lớp.
Mô hình phân biệt đối xử
Mô hình phân biệt có thể ước tính xác suất một bản sao thuộc về một lớp.
Không đủ thông tin để nói.
Cả mô hình tạo và phân biệt đối xử đều có thể ước tính xác suất (nhưng không nhất thiết phải như vậy).