ممکن است از تمرین‌های متقاطع ویژگی در ماژول داده‌های دسته‌بندی به یاد بیاورید که مشکل طبقه‌بندی زیر غیرخطی است:
"غیرخطی" به این معنی است که نمی‌توانید برچسبی را با مدلی از فرم \(b + w_1x_1 + w_2x_2\)به درستی پیش‌بینی کنید. به عبارت دیگر، «سطح تصمیم» یک خط نیست.
با این حال، اگر یک تلاقی ویژگی روی ویژگی‌های $x_1$ و $x_2$ انجام دهیم، می‌توانیم رابطه غیرخطی بین دو ویژگی را با استفاده از یک مدل خطی نشان دهیم: $b + w_1x_1 + w_2x_2 + w_3x_3$ که در آن $x_3$ برابر است تلاقی ویژگی بین $x_1$ و $x_2$:
اکنون مجموعه داده زیر را در نظر بگیرید:
همچنین ممکن است از تمرین‌های متقاطع ویژگی به یاد بیاورید که تعیین تلاقی‌های صحیح ویژگی برای تطبیق یک مدل خطی با این داده‌ها کمی تلاش و آزمایش بیشتری می‌طلبد.
اما اگر مجبور نباشید خودتان این همه آزمایش را انجام دهید چه؟ شبکه‌های عصبی خانواده‌ای از معماری‌های مدل هستند که برای یافتن الگوهای غیرخطی در داده‌ها طراحی شده‌اند. در طول آموزش یک شبکه عصبی، مدل به طور خودکار تلاقی های ویژگی بهینه را برای انجام روی داده های ورودی برای به حداقل رساندن تلفات می آموزد.
در بخش‌های بعدی، نگاهی دقیق‌تر به نحوه عملکرد شبکه‌های عصبی خواهیم داشت.