Bạn có thể nhớ lại từ Bài tập chéo tính năng trong mô-đun dữ liệu danh mục, rằng vấn đề phân loại sau đây là phi tuyến tính:
"Không tuyến tính" có nghĩa là bạn không thể dự đoán chính xác một nhãn bằng mô hình ở dạng \(b + w_1x_1 + w_2x_2\). Nói cách khác, "bề mặt quyết định" không phải là một đường thẳng.
Tuy nhiên, nếu thực hiện phép nhân các đặc điểm trên các đặc điểm $x_1$ và $x_2$, chúng ta có thể biểu thị mối quan hệ phi tuyến tính giữa hai đặc điểm này bằng cách sử dụng mô hình tuyến tính: $b + w_1x_1 + w_2x_2 + w_3x_3$, trong đó $x_3$ là phép nhân các đặc điểm giữa $x_1$ và $x_2$:
Bây giờ, hãy xem xét tập dữ liệu sau:
Bạn cũng có thể nhớ lại từ Bài tập về phép lai ghép tính năng rằng việc xác định đúng phép lai ghép tính năng để phù hợp với mô hình tuyến tính cho dữ liệu này cần nhiều nỗ lực và thử nghiệm hơn một chút.
Nhưng nếu bạn không phải tự mình thực hiện tất cả các thử nghiệm đó thì sao? Mạng nơron là một gia đình cấu trúc mô hình được thiết kế để tìm nonlinear trong dữ liệu. Trong quá trình huấn luyện mạng nơron, mô hình sẽ tự động học các giao điểm đặc điểm tối ưu để thực hiện trên dữ liệu đầu vào nhằm giảm thiểu tổn thất.
Trong các phần sau, chúng ta sẽ xem xét kỹ hơn về cách hoạt động của mạng nơron.