Bạn có thể nhớ lại từ Bài tập chéo tính năng trong mô-đun dữ liệu danh mục, rằng vấn đề phân loại sau đây là phi tuyến tính:
"Phi tuyến tính" nghĩa là bạn không thể dự đoán chính xác nhãn có của biểu mẫu \(b + w_1x_1 + w_2x_2\). Nói cách khác, "bề mặt quyết định" không phải là một đường.
Tuy nhiên, nếu chúng ta thực hiện chéo tính năng trên các tính năng $x_1$ và $x_2$, chúng ta có thể sau đó biểu thị mối quan hệ phi tuyến tính giữa hai đối tượng bằng cách sử dụng mô hình tuyến tính: $b + w_1x_1 + w_2x_2 + w_3x_3$ trong đó $x_3$ là đối tượng giao cắt giữa $x_1$ và $x_2$:
Bây giờ, hãy xem xét tập dữ liệu sau:
Bạn cũng có thể nhớ lại từ Bài tập chéo tính năng rằng việc xác định đúng đối tượng sẽ chuyển sang điều chỉnh mô hình tuyến tính cho phù hợp với dữ liệu này tốn nhiều công sức và thử nghiệm hơn.
Nhưng nếu bạn không phải tự mình thực hiện tất cả những thử nghiệm đó thì sao? Mạng nơron là một gia đình cấu trúc mô hình được thiết kế để tìm phi tuyến tính trong dữ liệu. Trong quá trình huấn luyện mạng nơron, model tự động học tính năng tối ưu chéo để thực hiện trên dữ liệu đầu vào nhằm giảm thiểu tổn thất.
Trong các phần sau, chúng ta sẽ xem xét kỹ hơn về cách hoạt động của mạng nơron.