Mạng nơ-ron nhiều lớp

Trước đó, bạn gặp phải các mô hình phân loại nhị phân có thể chọn một trong hai lựa chọn khả thi, chẳng hạn như:

  • Một email nhất định là thư rác hoặc không phải thư rác.
  • Một khối u nhất định có thể ác tính hoặc lành tính.

Trong mô-đun này, chúng tôi sẽ điều tra cách phân loại nhiều lớp, có thể chọn từ nhiều khả năng. Ví dụ:

  • Chó này là chó con, chó rừng hay chó săn?
  • Hoa này có phải là hoa diên vĩ Siberia, Hoa diên vĩ Hà Lan, Hoa diên vĩ xanh dương hoặc Hoa diên vĩ râu lùn không?
  • Đó là máy bay Boeing 747, Airbus 320, Boeing 777 hay Embraer 190?
  • Đây là hình ảnh của một quả táo, gấu, kẹo, chó hay trứng?

Một số bài toán nhiều lớp thực tế kéo theo việc chọn trong số hàng triệu lớp riêng biệt. Ví dụ: hãy xem xét một mô hình phân loại nhiều lớp có thể xác định hình ảnh của gần như mọi thứ.

Mạng nơ-ron nhiều lớp

  • Hồi quy logic logic cung cấp các xác suất hữu ích cho các bài toán lớp nhị phân.
    • spam / không phải spam
    • nhấp / không nhấp
  • Còn các bài toán về nhiều lớp thì sao?
    • táo, chuối, ô tô, bác sĩ tim mạch, ..., biển báo đi bộ, ngựa vằn, vườn thú
    • đỏ, cam, vàng, xanh lục, xanh lam, xanh lục, tím
    • động vật, rau, khoáng chất
  • Tạo một kết quả riêng cho mỗi lớp
  • Đào tạo nội dung đó dựa trên tín hiệu về "class của tôi" so với "tất cả các lớp khác"
  • Có thể thực hiện trong mạng sâu hoặc với các mô hình riêng biệt
Mạng nơron với 5 lớp ẩn và 5 lớp đầu ra.
  • Thêm một điều kiện ràng buộc khác: Yêu cầu đầu ra của tất cả các nút một trong tất cả để cộng lại thành 1.0
  • Hạn chế bổ sung giúp quá trình đào tạo hội tụ nhanh chóng
  • Ngoài ra, cho phép diễn giải kết quả đầu ra dưới dạng xác suất
Mạng nơron sâu có lớp đầu vào, hai lớp ẩn không mô tả, sau đó là lớp Softmax và cuối cùng là lớp đầu ra có cùng số nút với lớp Softmax.
  • Phân loại nhiều lớp, một nhãn:
    • Ví dụ có thể chỉ là thành viên của một lớp.
    • Hạn chế mà các lớp loại trừ lẫn nhau là cấu trúc hữu ích.
    • Hữu ích khi mã hóa điều này trong mất mát.
    • Sử dụng một mức giảm tối đa cho mỗi lớp có thể sử dụng.
  • Phân loại nhiều lớp, nhiều nhãn:
    • Ví dụ có thể là thành viên của nhiều lớp.
    • Không có hạn chế nào khác về tư cách thành viên lớp để khai thác.
    • Một lần hồi quy logistic cho mỗi lớp có thể có.
  • Tối đa hoàn toàn
    • Lực lượng tàn bạo; tính toán cho tất cả các lớp.
  • Tối đa hoàn toàn
    • Lực lượng tàn bạo; tính toán cho tất cả các lớp.
  • Lấy mẫu ứng cử viên
    • Tính toán cho tất cả các nhãn dương, nhưng chỉ cho một mẫu âm tính ngẫu nhiên.