واژه نامه یادگیری ماشینی: مبانی ML

این صفحه شامل اصطلاحات واژه نامه اصول ML است. برای همه اصطلاحات واژه نامه، اینجا را کلیک کنید .

الف

دقت

#مبانی

تعداد پیش‌بینی‌های طبقه‌بندی صحیح تقسیم بر تعداد کل پیش‌بینی‌ها. یعنی:

$$\text{Accuracy} = \frac{\text{correct predictions}} {\text{correct predictions + incorrect predictions }}$$

به عنوان مثال، مدلی که 40 پیش‌بینی درست و 10 پیش‌بینی نادرست داشته باشد، دقتی برابر با:

$$\text{Accuracy} = \frac{\text{40}} {\text{40 + 10}} = \text{80%}$$

طبقه بندی باینری نام های خاصی را برای دسته های مختلف پیش بینی های صحیح و پیش بینی های نادرست ارائه می دهد. بنابراین، فرمول دقت برای طبقه بندی باینری به شرح زیر است:

$$\text{Accuracy} = \frac{\text{TP} + \text{TN}} {\text{TP} + \text{TN} + \text{FP} + \text{FN}}$$

کجا:

• TP تعداد مثبت های واقعی (پیش بینی های صحیح) است.
• TN تعداد منفی های واقعی (پیش بینی های صحیح) است.
• FP تعداد مثبت کاذب (پیش‌بینی‌های نادرست) است.
• FN تعداد منفی های کاذب (پیش بینی های نادرست) است.

مقایسه و مقایسه دقت با دقت و یادآوری .

برای یادداشت های اضافی روی نماد کلیک کنید.

اگرچه برای برخی موقعیت‌ها یک معیار ارزشمند است، اما دقت برای برخی دیگر بسیار گمراه‌کننده است. قابل ذکر است که دقت معمولاً معیار ضعیفی برای ارزیابی مدل‌های طبقه‌بندی است که مجموعه داده‌های نامتعادل کلاس را پردازش می‌کنند.

برای مثال، فرض کنید در یک شهر نیمه گرمسیری خاص، تنها 25 روز در قرن برف می بارد. از آنجایی که روزهای بدون برف (طبقه منفی) بسیار بیشتر از روزهای با برف (طبقه مثبت) است، مجموعه داده های برف برای این شهر از نظر طبقه نامتعادل است. یک مدل طبقه‌بندی باینری را تصور کنید که قرار است هر روز برف یا بدون برف را پیش‌بینی کند، اما به سادگی هر روز «بدون برف» را پیش‌بینی می‌کند. این مدل بسیار دقیق است اما قدرت پیش بینی ندارد. جدول زیر نتایج یک قرن پیش‌بینی را خلاصه می‌کند:

دسته بندی	شماره
TP	0
TN	36500
FP	25
FN	0

بنابراین دقت این مدل عبارت است از:

accuracy = (TP + TN) / (TP + TN + FP + FN)
accuracy = (0 + 36500) / (0 + 36500 + 25 + 0) = 0.9993 = 99.93%

اگرچه دقت 99.93 درصد بسیار چشمگیر به نظر می رسد، این مدل در واقع قدرت پیش بینی ندارد.

دقت و یادآوری معمولاً معیارهای مفیدتری نسبت به دقت برای ارزیابی مدل‌های آموزش دیده بر روی مجموعه داده‌های نامتعادل کلاس هستند.

---

عملکرد فعال سازی

#مبانی

تابعی که شبکه های عصبی را قادر می سازد تا روابط غیرخطی (پیچیده) بین ویژگی ها و برچسب را بیاموزند.

توابع فعال سازی محبوب عبارتند از:

• ReLU
• سیگموئید

نمودار توابع فعال سازی هرگز خطوط مستقیم منفرد نیستند. به عنوان مثال، نمودار تابع فعال سازی ReLU از دو خط مستقیم تشکیل شده است:

نمودار تابع فعال سازی سیگموئید به صورت زیر است:

برای مشاهده نمونه روی نماد کلیک کنید.

در یک شبکه عصبی، توابع فعال سازی مجموع وزنی تمام ورودی های یک نورون را دستکاری می کنند. برای محاسبه یک جمع وزنی، نورون حاصل جمع مقادیر و وزن های مربوطه را جمع می کند. برای مثال، فرض کنید ورودی مربوط به یک نورون شامل موارد زیر است:

مقدار ورودی	وزن ورودی
2	-1.3
-1	0.6
3	0.4

بنابراین مجموع وزنی عبارت است از:

weighted sum = (2)(-1.3) + (-1)(0.6) + (3)(0.4) = -2.0

فرض کنید طراح این شبکه عصبی تابع سیگموئید را به عنوان تابع فعال سازی انتخاب کرده است. در آن صورت، نورون سیگموئید -2.0 را محاسبه می کند که تقریباً 0.12 است. بنابراین، نورون 0.12 (به جای -2.0) را به لایه بعدی در شبکه عصبی منتقل می کند. شکل زیر بخش مربوط به فرآیند را نشان می دهد:

---

هوش مصنوعی

#مبانی

یک برنامه یا مدل غیر انسانی که می تواند کارهای پیچیده را حل کند. برای مثال، برنامه یا مدلی که متن را ترجمه می کند یا برنامه یا مدلی که بیماری ها را از تصاویر رادیولوژیک شناسایی می کند، هر دو هوش مصنوعی را نشان می دهند.

به طور رسمی، یادگیری ماشین زیر شاخه هوش مصنوعی است. با این حال، در سال‌های اخیر، برخی از سازمان‌ها شروع به استفاده از اصطلاحات هوش مصنوعی و یادگیری ماشینی کرده‌اند.

AUC (مساحت زیر منحنی ROC)

#مبانی

عددی بین 0.0 و 1.0 نشان دهنده توانایی یک مدل طبقه بندی باینری برای جداسازی کلاس های مثبت از کلاس های منفی است. هر چه AUC به 1.0 نزدیکتر باشد، مدل توانایی بهتری برای جداسازی کلاس ها از یکدیگر دارد.

برای مثال، تصویر زیر یک مدل طبقه‌بندی کننده را نشان می‌دهد که کلاس‌های مثبت (بیضی سبز) را از کلاس‌های منفی (مستطیل‌های بنفش) کاملاً جدا می‌کند. این مدل غیرواقعی کامل دارای AUC 1.0 است:

برعکس، تصویر زیر نتایج یک مدل طبقه‌بندی کننده را نشان می‌دهد که نتایج تصادفی ایجاد می‌کند. این مدل دارای AUC 0.5 است:

بله، مدل قبلی دارای AUC 0.5 است، نه 0.0.

اکثر مدل ها جایی بین دو حالت افراطی هستند. به عنوان مثال، مدل زیر موارد مثبت را تا حدودی از منفی جدا می کند و بنابراین دارای AUC بین 0.5 و 1.0 است:

AUC هر مقداری را که برای آستانه طبقه بندی تنظیم کرده اید نادیده می گیرد. در عوض، AUC تمام آستانه های طبقه بندی ممکن را در نظر می گیرد.

برای اطلاع از رابطه بین منحنی های AUC و ROC روی نماد کلیک کنید.

AUC نشان دهنده سطح زیر منحنی ROC است. به عنوان مثال، منحنی ROC برای مدلی که کاملاً مثبت ها را از منفی ها جدا می کند به صورت زیر است:

AUC ناحیه خاکستری در تصویر قبل است. در این حالت غیر معمول، مساحت به سادگی طول ناحیه خاکستری (1.0) ضرب در عرض ناحیه خاکستری (1.0) است. بنابراین، حاصل ضرب 1.0 و 1.0 AUC دقیقاً 1.0 را به دست می دهد که بالاترین امتیاز AUC ممکن است.

برعکس، منحنی ROC برای طبقه‌بندی‌کننده‌ای که اصلاً نمی‌تواند کلاس‌ها را از هم جدا کند، به شرح زیر است. مساحت این منطقه خاکستری 0.5 است.

یک منحنی معمولی ROC تقریباً شبیه زیر است:

محاسبه مساحت زیر این منحنی به صورت دستی دشوار خواهد بود، به همین دلیل است که یک برنامه معمولاً بیشتر مقادیر AUC را محاسبه می کند.

---

برای تعریف رسمی تر AUC روی نماد کلیک کنید.

AUC احتمال این است که یک طبقه بندی کننده مطمئن تر از مثبت بودن یک مثال مثبت تصادفی انتخاب شده باشد تا اینکه یک مثال منفی تصادفی انتخاب شده مثبت باشد.

---

ب

پس انتشار

#مبانی

الگوریتمی که نزول گرادیان را در شبکه های عصبی پیاده سازی می کند.

آموزش یک شبکه عصبی شامل تکرارهای زیادی از چرخه دو پاس زیر است:

1. در طول پاس رو به جلو ، سیستم دسته‌ای از نمونه‌ها را پردازش می‌کند تا پیش‌بینی (های) را به دست آورد. سیستم هر پیش بینی را با هر برچسب مقایسه می کند. تفاوت بین مقدار پیش‌بینی و برچسب، ضرر آن مثال است. سیستم تلفات را برای همه نمونه‌ها جمع‌آوری می‌کند تا مجموع ضرر را برای دسته فعلی محاسبه کند.
2. در طول گذر به عقب (انتشار عقب)، سیستم با تنظیم وزن تمام نورون ها در تمام لایه(های) پنهان، تلفات را کاهش می دهد.

شبکه‌های عصبی اغلب حاوی نورون‌های زیادی در لایه‌های پنهان بسیاری هستند. هر یک از این نورون ها به روش های مختلفی در از دست دادن کلی نقش دارند. انتشار معکوس تعیین می کند که آیا وزن اعمال شده روی نورون های خاص افزایش یا کاهش یابد.

نرخ یادگیری یک ضریب است که میزان افزایش یا کاهش هر وزنه توسط هر پاس به عقب را کنترل می کند. نرخ یادگیری زیاد هر وزن را بیش از یک نرخ یادگیری کوچک افزایش یا کاهش می دهد.

از نظر حساب دیفرانسیل و انتگرال، پس انتشار قانون زنجیره را اجرا می کند. از حساب دیفرانسیل و انتگرال یعنی پس انتشار مشتق جزئی خطا را با توجه به هر پارامتر محاسبه می کند.

سال‌ها پیش، تمرین‌کنندگان ML مجبور بودند کدی را برای پیاده‌سازی انتشار پس‌انداز بنویسند. API های مدرن ML مانند TensorFlow اکنون پس انتشار را برای شما پیاده سازی می کنند. اوه!

دسته ای

#مبانی

مجموعه مثال های مورد استفاده در یک تکرار آموزشی. اندازه دسته تعداد نمونه ها را در یک دسته تعیین می کند.

برای توضیح نحوه ارتباط یک دسته با یک دوره، به epoch مراجعه کنید.

اندازه دسته

#مبانی

تعداد نمونه ها در یک دسته . به عنوان مثال، اگر اندازه دسته 100 باشد، مدل در هر تکرار 100 نمونه را پردازش می کند.

استراتژی های اندازه دسته ای محبوب زیر هستند:

• نزول گرادیان تصادفی (SGD) که در آن اندازه دسته 1 است.
• دسته کامل، که در آن اندازه دسته، تعداد نمونه‌های کل مجموعه آموزشی است. به عنوان مثال، اگر مجموعه آموزشی حاوی یک میلیون مثال باشد، اندازه دسته ای یک میلیون نمونه خواهد بود. دسته کامل معمولا یک استراتژی ناکارآمد است.
• مینی بچ که در آن اندازه دسته معمولا بین 10 تا 1000 است. مینی بچ معمولا کارآمدترین استراتژی است.

تعصب (اخلاق / انصاف)

#انصاف

#مبانی

1. کلیشه سازی، تعصب یا طرفداری نسبت به برخی چیزها، افراد یا گروه ها نسبت به دیگران. این سوگیری ها می توانند بر جمع آوری و تفسیر داده ها، طراحی یک سیستم و نحوه تعامل کاربران با یک سیستم تأثیر بگذارند. اشکال این نوع سوگیری عبارتند از:

• تعصب اتوماسیون
• سوگیری تایید
• تعصب آزمایشگر
• سوگیری اسناد گروهی
• سوگیری ضمنی
• تعصب درون گروهی
• سوگیری همگنی برون گروهی

2. خطای سیستماتیک معرفی شده توسط یک روش نمونه گیری یا گزارش. اشکال این نوع سوگیری عبارتند از:

• سوگیری پوشش
• سوگیری بدون پاسخ
• سوگیری مشارکت
• سوگیری گزارش
• سوگیری نمونه گیری
• سوگیری انتخاب

نباید با اصطلاح سوگیری در مدل‌های یادگیری ماشین یا سوگیری پیش‌بینی اشتباه گرفته شود.

تعصب (ریاضی) یا اصطلاح سوگیری

#مبانی

رهگیری یا جبران از مبدأ. تعصب یک پارامتر در مدل های یادگیری ماشینی است که با یکی از موارد زیر نشان داده می شود:

• ب
• w ₀

به عنوان مثال، بایاس b در فرمول زیر است:

$$y' = b + w_1x_1 + w_2x_2 + … w_nx_n$$

در یک خط دوبعدی ساده، بایاس فقط به معنای «قطعه y» است. به عنوان مثال، بایاس خط در تصویر زیر 2 است.

تعصب وجود دارد زیرا همه مدل ها از مبدا (0,0) شروع نمی شوند. به عنوان مثال، فرض کنید یک پارک تفریحی برای ورود به آن 2 یورو و برای هر ساعت اقامت مشتری 0.5 یورو اضافی هزینه دارد. بنابراین، مدلی که هزینه کل را نگاشت می کند، بایاس 2 دارد زیرا کمترین هزینه 2 یورو است.

سوگیری نباید با سوگیری در اخلاق و انصاف یا سوگیری پیش بینی اشتباه شود.

طبقه بندی باینری

#مبانی

یک نوع کار طبقه بندی که یکی از دو کلاس منحصر به فرد را پیش بینی می کند:

• طبقه مثبت
• طبقه منفی

به عنوان مثال، دو مدل یادگیری ماشین زیر، هر کدام دسته بندی باینری را انجام می دهند:

• مدلی که تعیین می‌کند پیام‌های ایمیل هرزنامه هستند (کلاس مثبت) یا اسپم نیستند (کلاس منفی).
• مدلی که علائم پزشکی را ارزیابی می کند تا مشخص کند آیا یک فرد دارای یک بیماری خاص (طبقه مثبت) است یا آن بیماری (طبقه منفی) را ندارد.

در تقابل با طبقه بندی چند طبقه .

همچنین به رگرسیون لجستیک و آستانه طبقه بندی مراجعه کنید.

سطل سازی

#مبانی

تبدیل یک ویژگی واحد به چندین ویژگی باینری به نام سطل یا bins ، که معمولاً بر اساس یک محدوده مقدار است. ویژگی خرد شده معمولاً یک ویژگی پیوسته است.

به عنوان مثال، به جای نمایش دما به عنوان یک ویژگی ممیز شناور منفرد، می توانید محدوده دما را به سطل های مجزا تقسیم کنید، مانند:

• <= 10 درجه سانتیگراد سطل "سرد" خواهد بود.
• 11 تا 24 درجه سانتیگراد سطل "معتدل" خواهد بود.
• >= 25 درجه سانتیگراد سطل "گرم" خواهد بود.

مدل با هر مقدار در یک سطل یکسان رفتار می کند. به عنوان مثال، مقادیر 13 و 22 هر دو در سطل معتدل هستند، بنابراین مدل با دو مقدار یکسان رفتار می کند.

برای یادداشت های اضافی روی نماد کلیک کنید.

اگر دما را به عنوان یک ویژگی پیوسته نشان دهید، مدل دما را به عنوان یک ویژگی واحد در نظر می گیرد. اگر دما را به عنوان سه سطل نشان دهید، مدل هر سطل را به عنوان یک ویژگی جداگانه در نظر می گیرد. یعنی یک مدل می تواند روابط جداگانه هر سطل را با برچسب یاد بگیرد. به عنوان مثال، یک مدل رگرسیون خطی می تواند وزن های جداگانه ای را برای هر سطل یاد بگیرد.

افزایش تعداد سطل ها با افزایش تعداد روابطی که مدل شما باید یاد بگیرد، مدل شما را پیچیده تر می کند. به عنوان مثال، سطل های سرد، معتدل و گرم اساساً سه ویژگی مجزا برای مدل شما هستند که می توانند با آن تمرین کنند. اگر تصمیم دارید دو سطل دیگر اضافه کنید - به عنوان مثال، انجماد و داغ - مدل شما اکنون باید روی پنج ویژگی جداگانه آموزش ببیند.

چگونه می دانید که چند سطل ایجاد کنید یا محدوده هر سطل چقدر باید باشد؟ پاسخ‌ها معمولاً به مقدار کافی آزمایش نیاز دارند.

---

سی

داده های طبقه بندی شده

#مبانی

ویژگی هایی که مجموعه خاصی از مقادیر ممکن را دارند. به عنوان مثال، یک ویژگی طبقه بندی به نام traffic-light-state را در نظر بگیرید که فقط می تواند یکی از سه مقدار ممکن زیر را داشته باشد:

• red
• yellow
• green

با نشان دادن traffic-light-state به عنوان یک ویژگی طبقه‌بندی، یک مدل می‌تواند تأثیرات متفاوت red ، green و yellow را بر رفتار راننده بیاموزد.

ویژگی‌های طبقه‌بندی گاهی اوقات ویژگی‌های گسسته نامیده می‌شوند.

در مقابل داده های عددی .

کلاس

#مبانی

دسته ای که یک برچسب می تواند به آن تعلق داشته باشد. به عنوان مثال:

• در یک مدل طبقه‌بندی باینری که هرزنامه را شناسایی می‌کند، این دو کلاس ممکن است هرزنامه باشند و نه هرزنامه .
• در یک مدل طبقه‌بندی چند طبقه که نژادهای سگ را مشخص می‌کند، کلاس‌ها ممکن است پودل ، بیگل ، پاگ و غیره باشند.

یک مدل طبقه بندی یک کلاس را پیش بینی می کند. در مقابل، یک مدل رگرسیون یک عدد را به جای یک کلاس پیش بینی می کند.

مدل طبقه بندی

#مبانی

مدلی که پیش‌بینی آن یک کلاس است. به عنوان مثال، موارد زیر همه مدل های طبقه بندی هستند:

• مدلی که زبان جمله ورودی (فرانسوی؟ اسپانیایی؟ ایتالیایی؟) را پیش بینی می کند.
• مدلی که گونه های درختی (افرا؟ بلوط؟ بائوباب؟) را پیش بینی می کند.
• مدلی که کلاس مثبت یا منفی را برای یک بیماری خاص پیش بینی می کند.

در مقابل، مدل های رگرسیون اعداد را به جای کلاس ها پیش بینی می کنند.

دو نوع رایج از مدل های طبقه بندی عبارتند از:

• طبقه بندی باینری
• طبقه بندی چند طبقه

آستانه طبقه بندی

#مبانی

در یک طبقه بندی باینری ، عددی بین 0 و 1 که خروجی خام یک مدل رگرسیون لجستیک را به پیش بینی کلاس مثبت یا منفی تبدیل می کند. توجه داشته باشید که آستانه طبقه بندی مقداری است که یک انسان انتخاب می کند، نه ارزشی که توسط آموزش مدل انتخاب شده است.

یک مدل رگرسیون لجستیک یک مقدار خام بین 0 و 1 خروجی می دهد. سپس:

• اگر این مقدار خام بیشتر از آستانه طبقه بندی باشد، کلاس مثبت پیش بینی می شود.
• اگر این مقدار خام کمتر از آستانه طبقه بندی باشد، کلاس منفی پیش بینی می شود.

به عنوان مثال، فرض کنید آستانه طبقه بندی 0.8 باشد. اگر مقدار خام 0.9 باشد، مدل کلاس مثبت را پیش بینی می کند. اگر مقدار خام 0.7 باشد، مدل کلاس منفی را پیش بینی می کند.

انتخاب آستانه طبقه بندی به شدت بر تعداد مثبت کاذب و منفی کاذب تأثیر می گذارد.

برای یادداشت های اضافی روی نماد کلیک کنید.

همانطور که مدل ها یا مجموعه داده ها تکامل می یابند، مهندسان گاهی اوقات آستانه طبقه بندی را نیز تغییر می دهند. وقتی آستانه طبقه‌بندی تغییر می‌کند، پیش‌بینی‌های کلاس مثبت می‌توانند ناگهان به کلاس‌های منفی تبدیل شوند و بالعکس.

به عنوان مثال، یک مدل پیش‌بینی بیماری طبقه‌بندی باینری را در نظر بگیرید. فرض کنید وقتی سیستم در سال اول اجرا می شود:

• مقدار خام برای یک بیمار خاص 0.95 است.
• آستانه طبقه بندی 0.94 است.

بنابراین، سیستم طبقه مثبت را تشخیص می دهد. (بیمار نفس نفس می زند: "اوه نه! من مریض هستم!")

یک سال بعد، شاید اکنون مقادیر به شرح زیر باشد:

• مقدار خام برای همان بیمار 0.95 باقی می ماند.
• آستانه طبقه بندی به 0.97 تغییر می کند.

بنابراین، سیستم اکنون آن بیمار را به عنوان طبقه منفی طبقه بندی می کند. ("روزت مبارک! من مریض نیستم.") همان بیمار. تشخیص متفاوت

---

مجموعه داده های کلاس نامتعادل

#مبانی

مجموعه داده ای برای یک مسئله طبقه بندی که در آن تعداد کل برچسب های هر کلاس به طور قابل توجهی متفاوت است. به عنوان مثال، یک مجموعه داده طبقه بندی باینری را در نظر بگیرید که دو برچسب آن به صورت زیر تقسیم می شوند:

• 1,000,000 برچسب منفی
• 10 برچسب مثبت

نسبت برچسب های منفی به مثبت 100000 به 1 است، بنابراین این یک مجموعه داده با کلاس نامتعادل است.

در مقابل، مجموعه داده زیر از نظر کلاس نامتعادل نیست زیرا نسبت برچسب های منفی به برچسب های مثبت نسبتا نزدیک به 1 است:

• 517 برچسب منفی
• 483 برچسب مثبت

مجموعه داده‌های چند کلاسه نیز می‌توانند دارای عدم تعادل کلاسی باشند. به عنوان مثال، مجموعه داده طبقه‌بندی چند کلاسه زیر نیز از نظر کلاس نامتعادل است، زیرا یک برچسب نمونه‌های بسیار بیشتری نسبت به دو برچسب دیگر دارد:

• 1,000,000 برچسب با کلاس "سبز"
• 200 برچسب با کلاس "بنفش"
• 350 برچسب با کلاس "نارنجی"

همچنین به آنتروپی ، کلاس اکثریت و کلاس اقلیت مراجعه کنید.

بریدن

#مبانی

تکنیکی برای رسیدگی به موارد پرت با انجام یکی یا هر دو مورد زیر:

• کاهش مقادیر ویژگی که بیشتر از یک آستانه حداکثر است تا آن آستانه حداکثر.
• افزایش مقادیر ویژگی که کمتر از یک آستانه حداقل تا آن آستانه حداقل است.

برای مثال، فرض کنید که <0.5٪ از مقادیر یک ویژگی خاص خارج از محدوده 40-60 باشد. در این صورت می توانید کارهای زیر را انجام دهید:

• تمام مقادیر بالای 60 (حداکثر آستانه) را دقیقاً 60 کنید.
• تمام مقادیر زیر 40 (حداقل آستانه) را دقیقاً 40 کنید.

پرت ها می توانند به مدل ها آسیب برسانند و گاهی اوقات باعث سرریز وزنه ها در طول تمرین می شوند. برخی از نقاط پرت نیز می توانند به طور چشمگیری معیارهایی مانند دقت را خراب کنند. برش یک تکنیک رایج برای محدود کردن آسیب است.

برش گرادیان مقادیر گرادیان را در یک محدوده تعیین شده در طول تمرین مجبور می کند.

ماتریس سردرگمی

#مبانی

یک جدول NxN که تعداد پیش‌بینی‌های صحیح و نادرست را که یک مدل طبقه‌بندی انجام داده است، خلاصه می‌کند. به عنوان مثال، ماتریس سردرگمی زیر را برای یک مدل طبقه بندی باینری در نظر بگیرید:

	تومور (پیش بینی شده)	غیر توموری (پیش بینی شده)
تومور (حقیقت زمینی)	18 (TP)	1 (FN)
غیر تومور (حقیقت زمینی)	6 (FP)	452 (TN)

ماتریس سردرگمی قبلی موارد زیر را نشان می دهد:

• از 19 پیش‌بینی که در آنها حقیقت پایه تومور بود، مدل 18 را به درستی و 1 را به اشتباه طبقه‌بندی کرد.
• از 458 پیش‌بینی که در آنها حقیقت پایه غیرتوموری بود، مدل 452 را به درستی و 6 را به اشتباه طبقه‌بندی کرد.

ماتریس سردرگمی برای یک مسئله طبقه بندی چند طبقه می تواند به شما در شناسایی الگوهای اشتباه کمک کند. به عنوان مثال، ماتریس سردرگمی زیر را برای یک مدل طبقه‌بندی چند کلاسه سه کلاسه در نظر بگیرید که سه نوع عنبیه مختلف (ویرجینیکا، ورسیکالر و ستوزا) را دسته‌بندی می‌کند. زمانی که حقیقت اصلی ویرجینیکا بود، ماتریس سردرگمی نشان می‌دهد که این مدل به احتمال زیاد Versicolor را به اشتباه پیش‌بینی می‌کرد تا Setosa:

	ستوزا (پیش بینی شده)	Versicolor (پیش‌بینی شده)	ویرجینیکا (پیش بینی شده)
ستوسا (حقیقت زمینی)	88	12	0
Versicolor (حقیقت زمینی)	6	141	7
ویرجینیکا (حقیقت زمینی)	2	27	109

به عنوان مثال دیگری، یک ماتریس سردرگمی می‌تواند نشان دهد که مدلی که برای تشخیص ارقام دست‌نویس آموزش دیده است، به اشتباه 9 را به جای 4 پیش‌بینی می‌کند، یا به اشتباه 1 را به جای 7 پیش‌بینی می‌کند.

ماتریس های سردرگمی حاوی اطلاعات کافی برای محاسبه انواع معیارهای عملکرد، از جمله دقت و یادآوری هستند.

ویژگی پیوسته

#مبانی

یک ویژگی ممیز شناور با دامنه نامتناهی از مقادیر ممکن، مانند دما یا وزن.

کنتراست با ویژگی گسسته .

همگرایی

#مبانی

حالتی به دست می آید که مقادیر زیان با هر تکرار خیلی کم یا اصلاً تغییر نمی کند. به عنوان مثال، منحنی ضرر زیر همگرایی را در حدود 700 تکرار نشان می دهد:

یک مدل زمانی همگرا می شود که آموزش اضافی مدل را بهبود نبخشد.

در یادگیری عمیق ، مقادیر از دست دادن گاهی اوقات ثابت می ماند یا تقریباً برای بسیاری از تکرارها قبل از اینکه در نهایت کاهش یابد، ثابت می ماند. در طول یک دوره طولانی مقادیر ثابت از دست دادن، ممکن است به طور موقت احساس کاذب همگرایی داشته باشید.

توقف زودهنگام را نیز ببینید.

D

DataFrame

#مبانی

یک نوع داده محبوب پانداها برای نمایش مجموعه داده ها در حافظه.

یک DataFrame مشابه یک جدول یا یک صفحه گسترده است. هر ستون از یک DataFrame یک نام (یک سرصفحه) دارد و هر ردیف با یک عدد منحصر به فرد مشخص می شود.

هر ستون در یک DataFrame مانند یک آرایه دو بعدی ساختار یافته است، با این تفاوت که به هر ستون می توان نوع داده خاص خود را اختصاص داد.

همچنین به صفحه مرجع رسمی pandas.DataFrame مراجعه کنید.

مجموعه داده یا مجموعه داده

#مبانی

مجموعه ای از داده های خام، معمولا (اما نه منحصرا) در یکی از قالب های زیر سازماندهی شده است:

• یک صفحه گسترده
• یک فایل با فرمت CSV (مقادیر جدا شده با کاما).

مدل عمیق

#مبانی

یک شبکه عصبی حاوی بیش از یک لایه پنهان .

یک مدل عمیق ، شبکه عصبی عمیق نیز نامیده می شود.

کنتراست با مدل عریض .

ویژگی متراکم

#مبانی

ویژگی که در آن اکثر یا همه مقادیر غیر صفر هستند، معمولاً تانسوری از مقادیر ممیز شناور است. به عنوان مثال، تانسور 10 عنصری زیر چگال است زیرا 9 مقدار آن غیر صفر است:

8

3

7

5

2

4

0

4

9

6

کنتراست با ویژگی پراکنده .

عمق

#مبانی

مجموع موارد زیر در یک شبکه عصبی :

• تعداد لایه های پنهان
• تعداد لایه های خروجی که معمولاً 1 است
• تعداد لایه های تعبیه شده

به عنوان مثال، یک شبکه عصبی با پنج لایه پنهان و یک لایه خروجی دارای عمق 6 است.

توجه داشته باشید که لایه ورودی بر عمق تأثیر نمی گذارد.

ویژگی گسسته

#مبانی

ویژگی با مجموعه محدودی از مقادیر ممکن. برای مثال، یک ویژگی که مقادیر آن ممکن است فقط حیوانی ، گیاهی یا معدنی باشد، یک ویژگی گسسته (یا طبقه‌بندی) است.

کنتراست با ویژگی پیوسته .

پویا

#مبانی

کاری که به طور مکرر یا مداوم انجام می شود. اصطلاحات پویا و آنلاین در یادگیری ماشین مترادف هستند. موارد زیر کاربردهای رایج پویا و آنلاین در یادگیری ماشینی است:

• مدل پویا (یا مدل آنلاین ) مدلی است که به طور مکرر یا پیوسته بازآموزی می شود.
• آموزش پویا (یا آموزش آنلاین ) فرآیند آموزش مکرر یا مداوم است.
• استنتاج پویا (یا استنتاج آنلاین ) فرآیند تولید پیش‌بینی‌ها بر حسب تقاضا است.

مدل پویا

#مبانی

مدلی که به طور مکرر (شاید حتی به طور مداوم) بازآموزی می شود. یک مدل پویا یک "یادگیرنده مادام العمر" است که دائماً با داده های در حال تکامل سازگار می شود. یک مدل پویا به عنوان مدل آنلاین نیز شناخته می شود.

کنتراست با مدل استاتیک .

E

توقف زودهنگام

#مبانی

روشی برای منظم‌سازی که شامل پایان دادن به تمرین قبل از کاهش افت تمرین است. در توقف اولیه، زمانی که از دست دادن مجموعه داده اعتبارسنجی شروع به افزایش می‌کند، عمداً آموزش مدل را متوقف می‌کنید. یعنی زمانی که عملکرد تعمیم بدتر می شود.

برای یادداشت های اضافی روی نماد کلیک کنید.

توقف زودهنگام ممکن است خلاف واقع به نظر برسد. به هر حال، گفتن به یک مدل برای توقف تمرین در حالی که ضرر هنوز در حال کاهش است ممکن است به نظر به نظر برسد که به سرآشپز بگویید قبل از پختن کامل دسر، پختن را متوقف کند. با این حال، آموزش یک مدل برای مدت طولانی می تواند منجر به بیش از حد برازش شود. یعنی اگر یک مدل را بیش از حد طولانی آموزش دهید، ممکن است مدل آنقدر با داده های آموزشی مطابقت داشته باشد که مدل پیش بینی خوبی در نمونه های جدید انجام ندهد.

---

لایه جاسازی

#زبان

#مبانی

یک لایه مخفی ویژه که بر روی یک ویژگی طبقه بندی با ابعاد بالا آموزش می دهد تا به تدریج بردار تعبیه ابعاد پایین تر را یاد بگیرد. یک لایه جاسازی شبکه عصبی را قادر می‌سازد تا بسیار کارآمدتر از آموزش فقط بر روی ویژگی طبقه‌بندی با ابعاد بالا آموزش ببیند.

برای مثال، زمین در حال حاضر از حدود 73000 گونه درختی پشتیبانی می کند. فرض کنید گونه درختی یک ویژگی در مدل شما باشد، بنابراین لایه ورودی مدل شما شامل یک بردار یک داغ به طول 73000 عنصر است. برای مثال، شاید baobab چیزی شبیه به این نشان داده شود:

یک آرایه 73000 عنصری بسیار طولانی است. اگر یک لایه جاسازی به مدل اضافه نکنید، به دلیل ضرب 72999 صفر، آموزش بسیار وقت گیر خواهد بود. شاید لایه جاسازی را از 12 بعد انتخاب کنید. در نتیجه، لایه جاسازی به تدریج یک بردار تعبیه جدید برای هر گونه درختی را یاد می گیرد.

در شرایط خاص، هش جایگزین معقولی برای لایه جاسازی است.

دوران

#مبانی

یک پاس آموزشی کامل در کل مجموعه آموزشی به طوری که هر نمونه یک بار پردازش شده است.

یک دوره نشان دهنده تکرارهای آموزشی اندازه N / دسته ای است که در آن N تعداد کل نمونه ها است.

به عنوان مثال، موارد زیر را فرض کنید:

• مجموعه داده شامل 1000 نمونه است.
• اندازه دسته 50 نمونه است.

بنابراین، یک دوره واحد نیاز به 20 تکرار دارد:

1 epoch = (N/batch size) = (1,000 / 50) = 20 iterations

مثال

#مبانی

مقادیر یک ردیف از ویژگی ها و احتمالاً یک برچسب . نمونه هایی در یادگیری تحت نظارت به دو دسته کلی تقسیم می شوند:

• یک مثال برچسب گذاری شده از یک یا چند ویژگی و یک برچسب تشکیل شده است. در طول آموزش از نمونه های برچسب دار استفاده می شود.
• یک مثال بدون برچسب شامل یک یا چند ویژگی است اما بدون برچسب. در طول استنتاج از نمونه های بدون برچسب استفاده می شود.

به عنوان مثال، فرض کنید در حال آموزش مدلی برای تعیین تأثیر شرایط آب و هوایی بر نمرات آزمون دانش آموزان هستید. در اینجا سه ​​نمونه برچسب گذاری شده وجود دارد:

ویژگی ها			برچسب بزنید
دما	رطوبت	فشار	نمره آزمون
15	47	998	خوب
19	34	1020	عالی
18	92	1012	بیچاره

در اینجا سه ​​نمونه بدون برچسب آورده شده است:

دما	رطوبت	فشار
12	62	1014
21	47	1017
19	41	1021

ردیف یک مجموعه داده معمولاً منبع خام برای مثال است. یعنی یک مثال معمولاً از زیر مجموعه ای از ستون های مجموعه داده تشکیل شده است. علاوه بر این، ویژگی‌های یک مثال می‌تواند شامل ویژگی‌های مصنوعی ، مانند تلاقی ویژگی‌ها نیز باشد.

اف

منفی کاذب (FN)

#مبانی

مثالی که در آن مدل به اشتباه کلاس منفی را پیش بینی می کند. برای مثال، مدل پیش‌بینی می‌کند که یک پیام ایمیل خاص هرزنامه نیست (کلاس منفی)، اما آن پیام ایمیل در واقع هرزنامه است .

مثبت کاذب (FP)

#مبانی

مثالی که در آن مدل به اشتباه کلاس مثبت را پیش بینی می کند. برای مثال، مدل پیش‌بینی می‌کند که یک پیام ایمیل خاص هرزنامه است (کلاس مثبت)، اما آن پیام ایمیل در واقع هرزنامه نیست .

نرخ مثبت کاذب (FPR)

#مبانی

نسبت مثال‌های منفی واقعی که مدل به اشتباه کلاس مثبت را پیش‌بینی کرده است. فرمول زیر نرخ مثبت کاذب را محاسبه می کند:

$$\text{false positive rate} = \frac{\text{false positives}}{\text{false positives} + \text{true negatives}}$$

نرخ مثبت کاذب، محور x در منحنی ROC است.

ویژگی

#مبانی

یک متغیر ورودی به یک مدل یادگیری ماشینی یک مثال از یک یا چند ویژگی تشکیل شده است. به عنوان مثال، فرض کنید در حال آموزش مدلی برای تعیین تأثیر شرایط آب و هوایی بر نمرات آزمون دانش آموزان هستید. جدول زیر سه نمونه را نشان می دهد که هر کدام شامل سه ویژگی و یک برچسب است:

ویژگی ها			برچسب بزنید
دما	رطوبت	فشار	نمره آزمون
15	47	998	92
19	34	1020	84
18	92	1012	87

کنتراست با برچسب

متقاطع ویژگی

#مبانی

یک ویژگی مصنوعی که با "تقاطع" ویژگی های طبقه بندی شده یا سطلی شکل می گیرد.

به عنوان مثال، یک مدل "پیش بینی خلق و خو" را در نظر بگیرید که دما را در یکی از چهار سطل زیر نشان می دهد:

• freezing
• chilly
• temperate
• warm

و سرعت باد را در یکی از سه سطل زیر نشان می دهد:

• still
• light
• windy

بدون تلاقی ویژگی ها، مدل خطی به طور مستقل در هر یک از هفت سطل مختلف قبلی تمرین می کند. بنابراین، به عنوان مثال، مدل در freezing مستقل از آموزش، به عنوان مثال، windy تمرین می کند.

از طرف دیگر، می توانید یک تلاقی ویژگی از دما و سرعت باد ایجاد کنید. این ویژگی مصنوعی دارای 12 مقدار ممکن زیر است:

• freezing-still
• freezing-light
• freezing-windy
• chilly-still
• chilly-light
• chilly-windy
• temperate-still
• temperate-light
• temperate-windy
• warm-still
• warm-light
• warm-windy

به لطف ویژگی‌های ضربدری، این مدل می‌تواند تفاوت‌های خلقی را بین یک روز freezing-windy و یک روز freezing-still بیاموزد.

اگر یک ویژگی مصنوعی از دو ویژگی ایجاد کنید که هر کدام دارای سطل های مختلف هستند، ویژگی متقاطع حاصل تعداد زیادی ترکیب ممکن خواهد داشت. به عنوان مثال، اگر یک ویژگی دارای 1000 سطل و ویژگی دیگر دارای 2000 سطل باشد، متقاطع ویژگی حاصل دارای 2،000،000 سطل است.

به طور رسمی، صلیب یک محصول دکارتی است.

تلاقی ویژگی ها بیشتر با مدل های خطی استفاده می شود و به ندرت برای شبکه های عصبی استفاده می شود.

مهندسی ویژگی

#مبانی

#TensorFlow

فرآیندی که شامل مراحل زیر است:

1. تعیین اینکه کدام ویژگی ممکن است در آموزش یک مدل مفید باشد.
2. تبدیل داده های خام از مجموعه داده به نسخه های کارآمد آن ویژگی ها.

برای مثال، ممکن است تعیین کنید که temperature ممکن است یک ویژگی مفید باشد. سپس، می‌توانید با سطل‌سازی آزمایش کنید تا آنچه را که مدل می‌تواند از محدوده‌های temperature مختلف بیاموزد، بهینه کنید.

مهندسی ویژگی گاهی اوقات استخراج ویژگی یا ویژگی نامیده می شود.

برای یادداشت های اضافی درباره TensorFlow روی نماد کلیک کنید.

در TensorFlow، مهندسی ویژگی اغلب به معنای تبدیل ورودی های فایل لاگ خام به بافرهای پروتکل tf.Example است. tf.Transform را نیز ببینید.

---

مجموعه ویژگی

#مبانی

گروهی از ویژگی‌ها که مدل یادگیری ماشین شما در آن آموزش می‌بیند. به عنوان مثال، کد پستی، اندازه ملک و وضعیت ملک ممکن است مجموعه ای از ویژگی های ساده برای مدلی باشد که قیمت مسکن را پیش بینی می کند.

بردار ویژگی

#مبانی

آرایه ای از مقادیر ویژگی شامل یک مثال است. بردار ویژگی در حین آموزش و در حین استنتاج ورودی است. برای مثال، بردار ویژگی برای یک مدل با دو ویژگی گسسته ممکن است:

[0.92, 0.56]

هر مثال مقادیر مختلفی را برای بردار ویژگی ارائه می دهد، بنابراین بردار ویژگی برای مثال بعدی می تواند چیزی شبیه به:

[0.73, 0.49]

مهندسی ویژگی نحوه نمایش ویژگی ها در بردار ویژگی را تعیین می کند. برای مثال، یک ویژگی دسته‌بندی باینری با پنج مقدار ممکن ممکن است با رمزگذاری یک‌طرفه نمایش داده شود. در این مورد، بخشی از بردار ویژگی برای یک مثال خاص از چهار صفر و یک 1.0 واحد در موقعیت سوم تشکیل شده است، به شرح زیر:

[0.0, 0.0, 1.0, 0.0, 0.0]

به عنوان مثال دیگر، فرض کنید مدل شما از سه ویژگی تشکیل شده است:

• یک ویژگی دسته‌بندی باینری با پنج مقدار ممکن که با رمزگذاری یک‌طرف نمایش داده می‌شود. به عنوان مثال: [0.0, 1.0, 0.0, 0.0, 0.0]
• یکی دیگر از ویژگی های دسته بندی باینری با سه مقدار ممکن که با رمزگذاری یک داغ نشان داده شده است. به عنوان مثال: [0.0, 0.0, 1.0]
• یک ویژگی ممیز شناور؛ به عنوان مثال: 8.3 .

در این حالت، بردار ویژگی برای هر مثال با 9 مقدار نشان داده می شود. با توجه به مقادیر مثال در لیست قبلی، بردار ویژگی به صورت زیر خواهد بود:

0.0
1.0
0.0
0.0
0.0
0.0
0.0
1.0
8.3

حلقه بازخورد

#مبانی

در یادگیری ماشین، وضعیتی که در آن پیش‌بینی‌های یک مدل بر داده‌های آموزشی همان مدل یا مدل دیگر تأثیر می‌گذارد. برای مثال، مدلی که فیلم‌ها را توصیه می‌کند، بر فیلم‌هایی که مردم می‌بینند تأثیر می‌گذارد، که سپس بر مدل‌های پیشنهادی فیلم بعدی تأثیر می‌گذارد.

جی

تعمیم

#مبانی

توانایی یک مدل برای پیش‌بینی صحیح بر روی داده‌های جدید که قبلاً دیده نشده بود. مدلی که می تواند تعمیم دهد برعکس مدلی است که بیش از حد مناسب است.

برای یادداشت های اضافی روی نماد کلیک کنید.

شما یک مدل را بر روی نمونه های مجموعه آموزشی آموزش می دهید. در نتیجه، مدل ویژگی های داده ها را در مجموعه آموزشی یاد می گیرد. تعمیم اساساً این سؤال را مطرح می کند که آیا مدل شما می تواند پیش بینی های خوبی را روی نمونه هایی انجام دهد که در مجموعه آموزشی نیستند .

برای تشویق تعمیم، منظم‌سازی به مدل کمک می‌کند تا کمتر به ویژگی‌های داده‌های مجموعه آموزشی آموزش دهد.

---

منحنی تعمیم

#مبانی

نمودار از دست دادن آموزش و از دست دادن اعتبار به عنوان تابعی از تعداد تکرارها .

یک منحنی تعمیم می تواند به شما کمک کند تا بیش از حد مناسب را تشخیص دهید. برای مثال، منحنی تعمیم زیر، بیش از حد برازش را پیشنهاد می‌کند، زیرا ضرر اعتبار سنجی در نهایت به طور قابل‌توجهی بیشتر از ضرر تمرینی می‌شود.

شیب نزول

#مبانی

یک تکنیک ریاضی برای به حداقل رساندن ضرر نزول گرادیان به طور مکرر وزن ها و سوگیری ها را تنظیم می کند و به تدریج بهترین ترکیب را برای به حداقل رساندن تلفات پیدا می کند.

نزول گرادیان قدیمی‌تر-بسیار بسیار قدیمی‌تر-از یادگیری ماشین است.

حقیقت زمین

#مبانی

واقعیت.

چیزی که در واقع اتفاق افتاده است.

به عنوان مثال، یک مدل طبقه‌بندی دودویی را در نظر بگیرید که پیش‌بینی می‌کند که آیا دانش‌آموزی در سال اول دانشگاهش ظرف شش سال فارغ‌التحصیل می‌شود یا خیر. حقیقت اصلی این مدل این است که آیا آن دانشجو واقعاً ظرف شش سال فارغ التحصیل شده است یا خیر.

برای یادداشت های اضافی روی نماد کلیک کنید.

ما کیفیت مدل را در برابر حقیقت زمین ارزیابی می کنیم. با این حال، حقیقت پایه همیشه کاملاً صادقانه نیست. به عنوان مثال، نمونه های زیر را از عیوب بالقوه در حقیقت زمین در نظر بگیرید:

• در مثال فارغ التحصیلی، آیا مطمئن هستیم که سوابق فارغ التحصیلی برای هر دانش آموز همیشه صحیح است؟ آیا ثبت سوابق دانشگاه بی عیب و نقص است؟
• فرض کنید برچسب یک مقدار ممیز شناور است که توسط ابزار اندازه گیری می شود (به عنوان مثال، فشارسنج). چگونه می توانیم مطمئن شویم که هر ابزار به طور یکسان کالیبره شده است یا هر خوانش تحت شرایط یکسانی گرفته شده است؟
• اگر این برچسب یک موضوع نظر انسان است، چگونه می‌توان مطمئن بود که هر رتبه‌دهنده انسانی رویدادها را به یک شکل ارزیابی می‌کند؟ برای بهبود سازگاری، گاهی اوقات ارزیاب های انسانی متخصص مداخله می کنند.

---

اچ

لایه پنهان

#مبانی

لایه ای در یک شبکه عصبی بین لایه ورودی (ویژگی ها) و لایه خروجی (پیش بینی). هر لایه پنهان از یک یا چند نورون تشکیل شده است. به عنوان مثال، شبکه عصبی زیر شامل دو لایه پنهان است، اولی با سه نورون و دومی با دو نورون:

یک شبکه عصبی عمیق حاوی بیش از یک لایه پنهان است. به عنوان مثال، تصویر قبلی یک شبکه عصبی عمیق است زیرا مدل شامل دو لایه پنهان است.

هایپرپارامتر

#مبانی

متغیرهایی که شما یا یک سرویس تنظیم فراپارامتردر طول دوره های متوالی آموزش یک مدل را تنظیم کنید. برای مثال نرخ یادگیری یک فراپارامتر است. قبل از یک جلسه تمرین می توانید میزان یادگیری را روی 0.01 تنظیم کنید. اگر تشخیص دادید که 0.01 خیلی زیاد است، می توانید نرخ یادگیری را برای جلسه آموزشی بعدی روی 0.003 تنظیم کنید.

در مقابل، پارامترها وزن ها و سوگیری های مختلفی هستند که مدل در طول آموزش یاد می گیرد .

من

به طور مستقل و یکسان توزیع شده (iid)

#مبانی

داده‌های گرفته شده از توزیعی که تغییر نمی‌کنند، و جایی که هر مقدار ترسیم شده به مقادیری که قبلاً ترسیم شده‌اند بستگی ندارد. iid گاز ایده آل یادگیری ماشین است - یک ساختار ریاضی مفید اما تقریباً هرگز دقیقاً در دنیای واقعی یافت نمی شود. به عنوان مثال، توزیع بازدیدکنندگان در یک صفحه وب ممکن است در یک بازه زمانی کوتاه به صورت iid باشد. یعنی توزیع در طول آن پنجره کوتاه تغییر نمی کند و بازدید یک نفر به طور کلی مستقل از بازدید شخص دیگر است. با این حال، اگر این پنجره زمانی را گسترش دهید، ممکن است تفاوت های فصلی در بازدیدکنندگان صفحه وب ظاهر شود.

همچنین ناپایداری را ببینید.

استنتاج

#مبانی

در یادگیری ماشینی، فرآیند پیش‌بینی با استفاده از یک مدل آموزش‌دیده برای نمونه‌های بدون برچسب .

استنتاج در آمار معنای متفاوتی دارد. برای جزئیات بیشتر به مقاله ویکی پدیا در مورد استنتاج آماری مراجعه کنید.

لایه ورودی

#مبانی

لایه ای از یک شبکه عصبی که بردار ویژگی را نگه می دارد. یعنی لایه ورودی نمونه هایی برای آموزش یا استنتاج ارائه می دهد. به عنوان مثال، لایه ورودی در شبکه عصبی زیر از دو ویژگی تشکیل شده است:

تفسیر پذیری

#مبانی

توانایی توضیح یا ارائه استدلال مدل ML با عبارات قابل درک برای انسان.

به عنوان مثال، اکثر مدل های رگرسیون خطی ، بسیار قابل تفسیر هستند. (شما فقط باید به وزن های تمرین شده برای هر ویژگی نگاه کنید.) جنگل های تصمیم گیری نیز بسیار قابل تفسیر هستند. با این حال، برخی از مدل‌ها برای تفسیرپذیر شدن به تجسم پیچیده نیاز دارند.

شما می توانید از ابزار تفسیرپذیری یادگیری (LIT) برای تفسیر مدل های ML استفاده کنید.

تکرار

#مبانی

یک به روز رسانی واحد از پارامترهای یک مدل - وزن ها و سوگیری های مدل - در طول آموزش . اندازه دسته ای تعیین می کند که مدل چند نمونه را در یک تکرار واحد پردازش می کند. به عنوان مثال، اگر اندازه دسته 20 باشد، مدل 20 نمونه را قبل از تنظیم پارامترها پردازش می کند.

هنگام آموزش یک شبکه عصبی ، یک تکرار شامل دو پاس زیر است:

1. یک پاس رو به جلو برای ارزیابی ضرر در یک دسته.
2. یک پاس به عقب ( پس انتشار ) برای تنظیم پارامترهای مدل بر اساس تلفات و نرخ یادگیری.

L

تنظیم L ₀

#مبانی

نوعی منظم‌سازی که تعداد کل وزن‌های غیر صفر را در یک مدل جریمه می‌کند. به عنوان مثال، مدلی که 11 وزن غیر صفر داشته باشد بیشتر از مدل مشابه دارای 10 وزن غیر صفر جریمه می شود.

منظم سازی L ₀ گاهی اوقات منظم سازی هنجار L0 نامیده می شود.

برای یادداشت های اضافی روی نماد کلیک کنید.

منظم سازی L ₀ به طور کلی در مدل های بزرگ غیر عملی است زیرا منظم سازی L ₀ آموزش را به یک مسئله بهینه سازی محدب تبدیل می کند.

---

L ₁ باخت

#مبانی

یک تابع ضرر که قدر مطلق تفاوت بین مقادیر واقعی برچسب و مقادیری را که یک مدل پیش بینی می کند محاسبه می کند. برای مثال، در اینجا محاسبه ضرر L ₁ برای یک دسته از پنج مثال آمده است:

ارزش واقعی مثال	مقدار پیش بینی شده مدل	مقدار مطلق دلتا
7	6	1
5	4	1
8	11	3
4	6	2
9	8	1
		8 = L 1 ضرر

از دست دادن L ₁ نسبت به L ₂ حساسیت کمتری نسبت به موارد پرت دارد.

میانگین خطای مطلق میانگین تلفات L ₁ در هر مثال است.

برای دیدن ریاضیات رسمی روی نماد کلیک کنید.

$$ L_1 loss = \sum_{i=0}^n | y_i - \hat{y}_i |$$

کجا:

• $n$ تعداد نمونه است.
• $y$ مقدار واقعی برچسب است.
• $\hat{y}$ مقداری است که مدل برای $y$ پیش‌بینی می‌کند.

---

تنظیم L ₁

#مبانی

نوعی قاعده‌سازی که وزن‌ها را متناسب با مجموع قدر مطلق وزن‌ها جریمه می‌کند. تنظیم L ₁ کمک می کند تا وزن ویژگی های نامربوط یا به ندرت مرتبط را دقیقاً به 0 برساند. یک ویژگی با وزن 0 به طور موثر از مدل حذف می شود.

در مقابل تنظیم L ₂ .

L ₂ باخت

#مبانی

یک تابع ضرر که مجذور تفاوت بین مقادیر واقعی برچسب و مقادیری را که یک مدل پیش بینی می کند محاسبه می کند. برای مثال، در اینجا محاسبه تلفات L ₂ برای یک دسته از پنج مثال آمده است:

ارزش واقعی مثال	مقدار پیش بینی شده مدل	مربع دلتا
7	6	1
5	4	1
8	11	9
4	6	4
9	8	1
		16 = L 2 ضرر

با توجه به تربیع، از دست دادن L ₂ تاثیر نقاط پرت را تقویت می کند. یعنی ضرر L ₂ نسبت به ضرر L ₁ به پیش بینی های بد واکنش قوی تری نشان می دهد. به عنوان مثال، ضرر L ₁ برای دسته قبلی به جای 16، 8 خواهد بود. توجه داشته باشید که یک عدد پرت تنها 9 مورد از 16 مورد را به خود اختصاص می دهد.

مدل‌های رگرسیون معمولاً از تلفات L ₂ به عنوان تابع ضرر استفاده می‌کنند.

میانگین مربعات خطا میانگین تلفات L ₂ در هر مثال است. ضرر مربعی نام دیگری برای ضرر L ₂ است.

برای دیدن ریاضیات رسمی روی نماد کلیک کنید.

$$ L_2 loss = \sum_{i=0}^n {(y_i - \hat{y}_i)}^2$$

کجا:

• $n$ تعداد نمونه است.
• $y$ مقدار واقعی برچسب است.
• $\hat{y}$ مقداری است که مدل برای $y$ پیش‌بینی می‌کند.

---

تنظیم L ₂

#مبانی

نوعی منظم سازی که وزن ها را متناسب با مجموع مجذورات اوزان جریمه می کند. منظم‌سازی L ₂ کمک می‌کند وزن‌های پرت (آنهایی که دارای مقادیر منفی بالا یا پایین هستند) به 0 نزدیک‌تر شوند، اما نه کاملاً به 0 . ویژگی هایی با مقادیر بسیار نزدیک به 0 در مدل باقی می مانند اما چندان بر پیش بینی مدل تأثیر نمی گذارند.

منظم سازی L ₂ همیشه تعمیم را در مدل های خطی بهبود می بخشد.

در تضاد با تنظیم L ₁ .

برچسب زدن

#مبانی

در یادگیری ماشینی تحت نظارت ، بخش «پاسخ» یا «نتیجه» یک مثال .

هر نمونه برچسب گذاری شده از یک یا چند ویژگی و یک برچسب تشکیل شده است. به عنوان مثال، در یک مجموعه داده تشخیص هرزنامه، برچسب احتمالاً "هرزنامه" یا "نه هرزنامه" خواهد بود. در مجموعه داده های بارش، برچسب ممکن است مقدار بارانی باشد که در یک دوره معین باریده است.

نمونه برچسب گذاری شده

#مبانی

مثالی که حاوی یک یا چند ویژگی و یک برچسب است . به عنوان مثال، جدول زیر سه نمونه برچسب دار از مدل ارزش گذاری خانه را نشان می دهد که هر کدام دارای سه ویژگی و یک برچسب هستند:

تعداد اتاق خواب	تعداد حمام	سن خانه	قیمت خانه (برچسب)
3	2	15	345000 دلار
2	1	72	179000 دلار
4	2	34	392000 دلار

در یادگیری ماشینی نظارت شده ، مدل ها بر روی نمونه های برچسب دار آموزش می بینند و روی نمونه های بدون برچسب پیش بینی می کنند.

مثال برچسب‌گذاری‌شده را با نمونه‌های بدون برچسب مقایسه کنید.

لامبدا

#مبانی

مترادف نرخ منظم سازی .

لامبدا یک اصطلاح پر بار است. در اینجا ما بر تعریف این اصطلاح در قانون‌گذاری تمرکز می‌کنیم.

لایه

#مبانی

مجموعه ای از نورون ها در یک شبکه عصبی . سه نوع لایه رایج به شرح زیر است:

• لایه ورودی که مقادیری را برای تمام ویژگی ها ارائه می کند.
• یک یا چند لایه پنهان که روابط غیرخطی بین ویژگی ها و برچسب پیدا می کند.
• لایه خروجی که پیش بینی را ارائه می دهد.

به عنوان مثال، تصویر زیر یک شبکه عصبی با یک لایه ورودی، دو لایه پنهان و یک لایه خروجی را نشان می دهد:

در TensorFlow ، لایه ها نیز توابع پایتون هستند که تنسورها و گزینه های پیکربندی را به عنوان ورودی می گیرند و تانسورهای دیگر را به عنوان خروجی تولید می کنند.

میزان یادگیری

#مبانی

یک عدد ممیز شناور که به الگوریتم نزول گرادیان می‌گوید که چگونه وزن‌ها و سوگیری‌ها را در هر تکرار به شدت تنظیم کند. به عنوان مثال، نرخ یادگیری 0.3 می تواند وزن ها و سوگیری ها را سه برابر قوی تر از نرخ یادگیری 0.1 تنظیم کند.

نرخ یادگیری یک فراپارامتر کلیدی است. اگر میزان یادگیری را خیلی پایین تنظیم کنید، آموزش خیلی طول می کشد. اگر میزان یادگیری را خیلی بالا تنظیم کنید، شیب نزول اغلب در رسیدن به همگرایی با مشکل مواجه می شود.

برای توضیح ریاضی بیشتر روی نماد کلیک کنید.

در طول هر تکرار، الگوریتم نزول گرادیان ، نرخ یادگیری را در گرادیان ضرب می کند. محصول حاصل مرحله گرادیان نامیده می شود.

---

خطی

#مبانی

رابطه ای بین دو یا چند متغیر که تنها از طریق جمع و ضرب قابل نمایش است.

طرح یک رابطه خطی یک خط است.

کنتراست با غیر خطی .

مدل خطی

#مبانی

مدلی که به هر ویژگی یک وزن را برای پیش بینی اختصاص می دهد. (مدل های خطی همچنین دارای یک سوگیری هستند.) در مقابل، رابطه ویژگی ها با پیش بینی ها در مدل های عمیق عموما غیرخطی است.

مدل‌های خطی معمولاً ساده‌تر از مدل‌های عمیق آموزش داده می‌شوند و قابل تفسیرتر هستند . با این حال، مدل های عمیق می توانند روابط پیچیده بین ویژگی ها را یاد بگیرند.

رگرسیون خطی و رگرسیون لجستیک دو نوع مدل خطی هستند.

برای دیدن ریاضی روی نماد کلیک کنید.

یک مدل خطی از این فرمول پیروی می کند:

$$y' = b + w_1x_1 + w_2x_2 + … w_nx_n$$

کجا:

• y پیش‌بینی خام است. (در انواع خاصی از مدل های خطی، این پیش بینی خام بیشتر اصلاح می شود. به عنوان مثال، رگرسیون لجستیک را ببینید.)
• b تعصب است.
• w یک وزن است، بنابراین w ₁ وزن ویژگی اول، w ₂ وزن ویژگی دوم و غیره است.
• x یک ویژگی است، بنابراین x ₁ مقدار ویژگی اول، x ₂ مقدار ویژگی دوم و غیره است.

برای مثال، فرض کنید یک مدل خطی برای سه ویژگی بایاس و وزن های زیر را یاد می گیرد:

• b = 7
• w ₁ = -2.5
• w ₂ = -1.2
• w ₃ = 1.4

بنابراین، با توجه به سه ویژگی (x ₁ ، x ₂ و x ₃ )، مدل خطی از معادله زیر برای تولید هر پیش‌بینی استفاده می‌کند:

y' = 7 + (-2.5)(x1) + (-1.2)(x2) + (1.4)(x3)

فرض کنید یک مثال خاص حاوی مقادیر زیر باشد:

• x ₁ = 4
• x ₂ = -10
• x ₃ = 5

وصل کردن آن مقادیر به فرمول یک پیش بینی برای این مثال به دست می دهد:

y' = 7 + (-2.5)(4) + (-1.2)(-10) + (1.4)(5)
y' = 16

مدل‌های خطی نه تنها شامل مدل‌هایی می‌شوند که فقط از یک معادله خطی برای پیش‌بینی استفاده می‌کنند، بلکه مجموعه گسترده‌تری از مدل‌ها را شامل می‌شوند که از یک معادله خطی فقط به عنوان یکی از اجزای فرمول استفاده می‌کنند که پیش‌بینی می‌کند. به عنوان مثال، رگرسیون لجستیک پیش‌بینی خام (y') را پس از پردازش می‌کند تا یک مقدار پیش‌بینی نهایی بین 0 و 1 را منحصراً تولید کند.

---

رگرسیون خطی

#مبانی

نوعی از مدل یادگیری ماشین که در آن هر دو مورد زیر صادق است:

• مدل یک مدل خطی است.
• پیش بینی یک مقدار ممیز شناور است. (این بخش رگرسیون رگرسیون خطی است.)

رگرسیون خطی را با رگرسیون لجستیک مقایسه کنید. همچنین، رگرسیون را با طبقه بندی مقایسه کنید.

رگرسیون لجستیک

#مبانی

یک نوع مدل رگرسیون که یک احتمال را پیش بینی می کند. مدل های رگرسیون لجستیک دارای ویژگی های زیر هستند:

• برچسب طبقه بندی شده است. اصطلاح رگرسیون لجستیک معمولاً به رگرسیون لجستیک باینری اشاره دارد، یعنی به مدلی که احتمالات را برای برچسب‌هایی با دو مقدار ممکن محاسبه می‌کند. یک نوع کمتر رایج، رگرسیون لجستیک چند جمله ای ، احتمالات را برای برچسب هایی با بیش از دو مقدار ممکن محاسبه می کند.
• تابع ضرر در طول تمرین Log Loss است. (چند واحد از دست دادن ورود به سیستم را می توان به طور موازی برای برچسب هایی با بیش از دو مقدار ممکن قرار داد.)
• این مدل دارای معماری خطی است ، نه یک شبکه عصبی عمیق. با این حال ، باقیمانده این تعریف همچنین در مورد مدل های عمیق که احتمال برچسب های طبقه بندی را پیش بینی می کند ، اعمال می شود.

به عنوان مثال ، یک مدل رگرسیون لجستیک را در نظر بگیرید که احتمال یک ایمیل ورودی یا هرزنامه یا اسپم را محاسبه می کند. در طول استنتاج ، فرض کنید مدل 0.72 را پیش بینی می کند. بنابراین ، مدل تخمین می زند:

• 72 ٪ شانس ایمیل در هرزنامه.
• 28 ٪ احتمال عدم اسپم ایمیل.

یک مدل رگرسیون لجستیک از معماری دو مرحله ای زیر استفاده می کند:

1. این مدل با استفاده از یک تابع خطی از ویژگی های ورودی ، پیش بینی خام (y ') ایجاد می کند.
2. این مدل از پیش بینی خام به عنوان ورودی به یک عملکرد سیگموئید استفاده می کند ، که پیش بینی خام را به یک مقدار بین 0 تا 1 تبدیل می کند ، منحصر به فرد.

مانند هر مدل رگرسیون ، یک مدل رگرسیون لجستیک تعدادی را پیش بینی می کند. با این حال ، این تعداد به طور معمول بخشی از یک مدل طبقه بندی باینری به شرح زیر می شود:

• اگر تعداد پیش بینی شده از آستانه طبقه بندی بیشتر باشد ، مدل طبقه بندی باینری کلاس مثبت را پیش بینی می کند.
• اگر تعداد پیش بینی شده کمتر از آستانه طبقه بندی باشد ، مدل طبقه بندی باینری کلاس منفی را پیش بینی می کند.

از دست دادن ورود

#مبانی

عملکرد از دست دادن مورد استفاده در رگرسیون لجستیک باینری.

برای دیدن ریاضی روی نماد کلیک کنید.

فرمول زیر از دست دادن ورود به سیستم را محاسبه می کند:

$$\text{Log Loss} = \sum_{(x,y)\in D} -y\log(y') - (1 - y)\log(1 - y')$$

کجا:

• \((x,y)\in D\) آیا مجموعه داده حاوی بسیاری از نمونه های دارای برچسب است که عبارتند از \((x,y)\) جفت
• \(y\) برچسب در یک مثال برچسب است. از آنجا که این رگرسیون لجستیک است ، هر مقدار از \(y\) باید یا 0 یا 1 باشد.
• \(y'\) مقدار پیش بینی شده (در جایی بین 0 تا 1 ، اختصاصی) با توجه به مجموعه ویژگی های موجود در \(x\).

---

با ورود به سیستم

#مبانی

لگاریتم شانس برخی از رویدادها.

برای دیدن ریاضی روی نماد کلیک کنید.

اگر این رویداد یک احتمال باینری باشد ، شانس به نسبت احتمال موفقیت ( P ) به احتمال عدم موفقیت (1- P ) اشاره دارد. به عنوان مثال ، فرض کنید که یک رویداد خاص دارای 90 ٪ احتمال موفقیت و 10 ٪ احتمال شکست است. در این حالت ، شانس به شرح زیر محاسبه می شود:

$$ {\text{odds}} = \frac{\text{p}} {\text{(1-p)}} = \frac{.9} {.1} = {\text{9}} $$

ورود به سیستم به سادگی لگاریتم شانس است. طبق کنوانسیون ، "لگاریتم" به لگاریتم طبیعی اشاره دارد ، اما لگاریتم در واقع می تواند هر پایه ای بیشتر از 1. باشد. چسبیدن به کنوانسیون ، ورود به سیستم نمونه ما از این رو است: بنابراین:

$$ {\text{log-odds}} = ln(9) ~= 2.2 $$

عملکرد log-odds معکوس عملکرد سیگموئید است.

---

از دست دادن

#مبانی

در طول آموزش یک مدل نظارت شده ، معیاری از پیش بینی مدل تا چه اندازه از برچسب آن است.

یک تابع از دست دادن ضرر را محاسبه می کند.

منحنی ضرر

#مبانی

طرح از دست دادن به عنوان تابعی از تعداد تکرارهای آموزش. طرح زیر یک منحنی ضرر معمولی را نشان می دهد:

منحنی های از دست دادن می توانند به شما در تعیین زمان همگرا یا بیش از حد مدل کمک کنند.

منحنی های ضرر می توانند تمام انواع زیر را از دست بدهند:

• از دست دادن آموزش
• از دست دادن اعتبار سنجی
• از دست دادن

همچنین به منحنی تعمیم مراجعه کنید.

تابع ضرر

#مبانی

در حین آموزش یا آزمایش ، یک عملکرد ریاضی که از بین رفتن در یک دسته از نمونه ها محاسبه می کند. یک عملکرد از دست دادن باعث از بین رفتن کمتر برای مدل هایی می شود که پیش بینی های خوبی را نسبت به مدل هایی که پیش بینی های بدی دارند ، ایجاد می کند.

هدف از آموزش به طور معمول به حداقل رساندن ضرر است که عملکرد ضرر باز می گردد.

انواع مختلفی از توابع ضرر وجود دارد. عملکرد ضرر مناسب را برای نوع مدلی که می سازید انتخاب کنید. به عنوان مثال:

• L ₂ از دست دادن (یا میانگین خطای مربع ) عملکرد از دست دادن رگرسیون خطی است.
• از دست دادن ورود به سیستم عملکرد ضرر برای رگرسیون لجستیک است.

م

یادگیری ماشینی

#مبانی

برنامه یا سیستمی که یک مدل را از داده های ورودی آموزش می دهد . مدل آموزش دیده می تواند پیش بینی های مفیدی را از داده های جدید (هرگز دیده نشده) که از همان توزیع مشابه مورد استفاده برای آموزش مدل تهیه شده است ، پیش بینی کند.

یادگیری ماشین همچنین به زمینه تحصیلی مربوط به این برنامه ها یا سیستم ها اشاره دارد.

طبقه اکثریت

#مبانی

برچسب رایج تر در یک مجموعه داده با کلاس متعادل . به عنوان مثال ، با توجه به یک مجموعه داده حاوی 99 ٪ برچسب منفی و 1 ٪ برچسب های مثبت ، برچسب های منفی کلاس اکثریت هستند.

تضاد با کلاس اقلیت .

مینی دسته

#مبانی

یک زیر مجموعه کوچک و به طور تصادفی از یک دسته که در یک تکرار پردازش می شود. اندازه دسته ای از یک مینی دسته معمولاً بین 10 تا 1000 نمونه است.

به عنوان مثال ، فرض کنید کل مجموعه آموزش (دسته کامل) شامل 1000 نمونه است. علاوه بر این فرض کنید که شما اندازه دسته ای از هر مینی دسته را به 20 تنظیم کرده اید. بنابراین ، هر تکرار ضرر را در 20 نمونه از 1000 نمونه مشخص می کند و سپس وزن و تعصب را بر این اساس تنظیم می کند.

محاسبه ضرر در یک مینی دسته بسیار کارآمدتر از ضرر در تمام نمونه های موجود در دسته کامل است.

طبقه اقلیت

#مبانی

برچسب کمتر متداول در یک مجموعه داده با کلاس متعادل . به عنوان مثال ، با توجه به یک مجموعه داده حاوی 99 ٪ برچسب منفی و 1 ٪ برچسب های مثبت ، برچسب های مثبت کلاس اقلیت هستند.

تضاد با کلاس اکثریت .

برای یادداشت های اضافی روی نماد کلیک کنید.

یک مجموعه آموزشی با یک میلیون نمونه چشمگیر به نظر می رسد. با این حال ، اگر طبقه اقلیت ضعیف باشد ، حتی ممکن است یک مجموعه آموزش بسیار بزرگ نیز کافی نباشد. کمتر روی تعداد کل نمونه ها در مجموعه داده ها و بیشتر روی تعداد مثالهای موجود در کلاس اقلیت تمرکز کنید.

اگر مجموعه داده شما حاوی نمونه های کلاس اقلیت کافی نیست ، برای تکمیل کلاس اقلیت از Downsampling (تعریف در گلوله دوم) استفاده کنید.

---

مدل

#مبانی

به طور کلی ، هر ساختاری ریاضی که داده های ورودی را پردازش می کند و خروجی را باز می گرداند. با بیان متفاوت ، یک مدل مجموعه پارامترها و ساختار مورد نیاز برای یک سیستم برای پیش بینی است. در یادگیری ماشین تحت نظارت ، یک مدل به عنوان ورودی مثال می زند و پیش بینی را به عنوان خروجی نشان می دهد. در یادگیری ماشین تحت نظارت ، مدل ها تا حدودی متفاوت هستند. به عنوان مثال:

• یک مدل رگرسیون خطی شامل مجموعه ای از وزنه ها و تعصب است.
• یک مدل شبکه عصبی شامل موارد زیر است:
  • مجموعه ای از لایه های پنهان ، هر یک حاوی یک یا چند نورون .
  • وزن و تعصب مرتبط با هر نورون.
• یک مدل درخت تصمیم شامل موارد زیر است:
  • شکل درخت ؛ یعنی الگویی که در آن شرایط و برگها به هم وصل شده است.
  • شرایط و برگها.

می توانید از یک مدل ذخیره ، بازیابی یا تهیه کنید.

یادگیری دستگاه بدون نظارت همچنین مدل هایی را تولید می کند ، به طور معمول تابعی که می تواند یک نمونه ورودی را برای مناسب ترین خوشه ترسیم کند.

برای مقایسه توابع جبر و برنامه نویسی با مدل های ML ، روی نماد کلیک کنید.

یک عملکرد جبری مانند موارد زیر یک مدل است:

  f(x, y) = 3x -5xy + y2 + 17

عملکرد قبلی مقادیر ورودی ( x و y ) را برای خروجی نقشه می کند.

به همین ترتیب ، یک عملکرد برنامه نویسی مانند موارد زیر نیز یک مدل است:

def half_of_greater(x, y):
  if (x > y):
    return(x / 2)
  else
    return(y / 2)

یک تماس گیرنده آرگومان ها را به عملکرد Python قبلی منتقل می کند ، و عملکرد پایتون خروجی (از طریق عبارت Return ) ایجاد می کند.

اگرچه یک شبکه عصبی عمیق از ساختار ریاضی بسیار متفاوتی نسبت به یک عملکرد جبری یا برنامه نویسی برخوردار است ، اما یک شبکه عصبی عمیق هنوز ورودی (یک مثال) را می گیرد و خروجی را برمی گرداند (پیش بینی).

یک برنامه نویس انسان یک عملکرد برنامه نویسی را به صورت دستی رمزگذاری می کند. در مقابل ، یک مدل یادگیری ماشین به تدریج پارامترهای بهینه را در طول آموزش خودکار می آموزد.

---

طبقه بندی چند طبقه

#مبانی

در یادگیری تحت نظارت ، یک مشکل طبقه بندی که در آن مجموعه داده شامل بیش از دو کلاس برچسب است. به عنوان مثال ، برچسب های موجود در مجموعه داده های Iris باید یکی از سه کلاس زیر باشد:

• زنبق ستوزا
• زنبق ویرجینیکا
• زنبق ورسیکالر

مدلی که در مجموعه داده های Iris آموزش داده شده است که نوع IRIS را در نمونه های جدید پیش بینی می کند ، انجام طبقه بندی چند کلاس است.

در مقابل ، مشکلات طبقه بندی که دقیقاً بین دو کلاس تمایز قائل هستند ، مدل های طبقه بندی باینری هستند. به عنوان مثال ، یک مدل ایمیل که اسپم را پیش بینی می کند یا نه هرزنامه یک مدل طبقه بندی باینری است.

در مشکلات خوشه بندی ، طبقه بندی چند طبقه به بیش از دو خوشه اشاره دارد.

ن

طبقه منفی

#مبانی

در طبقه بندی باینری ، یک کلاس مثبت خوانده می شود و دیگری منفی نامیده می شود. کلاس مثبت چیز یا رویدادی است که مدل در حال آزمایش است و کلاس منفی احتمال دیگر است. به عنوان مثال:

• کلاس منفی در یک آزمایش پزشکی ممکن است "تومور" نباشد.
• کلاس منفی در یک طبقه بندی کننده ایمیل ممکن است "اسپم" نباشد.

تضاد با کلاس مثبت .

شبکه عصبی

#مبانی

یک مدل حاوی حداقل یک لایه پنهان . یک شبکه عصبی عمیق نوعی از شبکه عصبی است که حاوی بیش از یک لایه پنهان است. به عنوان مثال ، نمودار زیر یک شبکه عصبی عمیق حاوی دو لایه پنهان را نشان می دهد.

هر نورون در یک شبکه عصبی به تمام گره های لایه بعدی متصل می شود. به عنوان مثال ، در نمودار قبلی ، توجه کنید که هر یک از سه نورون در لایه اول پنهان به طور جداگانه به هر دو نورون در لایه پنهان دوم متصل می شوند.

شبکه های عصبی که بر روی رایانه ها اجرا می شوند ، گاهی اوقات شبکه های عصبی مصنوعی نامیده می شوند تا آنها را از شبکه های عصبی موجود در مغز و سایر سیستم های عصبی متمایز کنند.

برخی از شبکه های عصبی می توانند از روابط غیرخطی بسیار پیچیده بین ویژگی های مختلف و برچسب تقلید کنند.

همچنین به شبکه عصبی Convolutional و شبکه عصبی مکرر مراجعه کنید.

نورون

#مبانی

در یادگیری ماشین ، یک واحد مجزا در یک لایه پنهان از یک شبکه عصبی . هر نورون عملکرد دو مرحله ای زیر را انجام می دهد:

1. مقدار وزنی مقادیر ورودی را ضرب شده توسط وزن مربوطه آنها محاسبه می کند.
2. مبلغ وزنی را به عنوان ورودی به یک عملکرد فعال سازی منتقل می کند.

یک نورون در اولین لایه پنهان ورودی های مقادیر ویژگی موجود در لایه ورودی را می پذیرد. یک نورون در هر لایه پنهان فراتر از اولین ، ورودی های نورون ها را در لایه پنهان قبلی می پذیرد. به عنوان مثال ، یک نورون در لایه پنهان دوم ورودی های نورون ها را در لایه اول پنهان می پذیرد.

تصویر زیر دو نورون و ورودی های آنها را برجسته می کند.

یک نورون در یک شبکه عصبی از رفتار نورون ها در مغز و سایر قسمت های سیستم های عصبی تقلید می کند.

گره (شبکه عصبی)

#مبانی

یک نورون در یک لایه پنهان .

غیرخطی

#مبانی

رابطه بین دو یا چند متغیر که فقط از طریق افزودن و ضرب قابل نمایش نیستند. یک رابطه خطی را می توان به عنوان یک خط نشان داد. یک رابطه غیرخطی نمی تواند به عنوان یک خط ارائه شود. به عنوان مثال ، دو مدل را در نظر بگیرید که هر کدام یک ویژگی واحد را به یک برچسب واحد مرتبط می کنند. مدل در سمت چپ خطی است و مدل در سمت راست غیرخطی است:

غیر ایستاری

#مبانی

ویژگی ای که مقادیر آن در یک یا چند بعد تغییر می کند ، معمولاً زمان. به عنوان مثال ، مثالهای زیر از عدم استحکام را در نظر بگیرید:

• تعداد لباس های شنا که در یک فروشگاه خاص فروخته می شود با فصل متفاوت است.
• مقدار میوه خاصی که در یک منطقه خاص برداشت می شود برای بیشتر سال صفر است اما برای مدت کوتاهی بزرگ است.
• با توجه به تغییرات آب و هوایی ، میانگین دما سالانه در حال تغییر است.

تضاد با ثابت بودن .

عادی سازی

#مبانی

به طور گسترده ، فرایند تبدیل مقادیر واقعی یک متغیر به یک محدوده استاندارد از مقادیر ، مانند:

• -1 تا 1
• 0 تا 1
• توزیع عادی

به عنوان مثال ، فرض کنید دامنه واقعی مقادیر یک ویژگی خاص 800 تا 2400 است. به عنوان بخشی از مهندسی ویژگی ، می توانید مقادیر واقعی را به یک محدوده استاندارد مانند -1 تا 1+ عادی کنید.

عادی سازی یک کار مشترک در مهندسی ویژگی است. مدل ها معمولاً سریعتر تمرین می کنند (و پیش بینی های بهتری را تولید می کنند) وقتی هر ویژگی عددی در بردار ویژگی تقریباً یکسان است.

داده های عددی

#مبانی

ویژگی های ارائه شده به عنوان عدد صحیح یا اعداد با ارزش واقعی. به عنوان مثال ، یک مدل ارزیابی خانه احتمالاً اندازه یک خانه (در فوت مربع یا متر مربع) را به عنوان داده های عددی نشان می دهد. نمایندگی یک ویژگی به عنوان داده های عددی نشان می دهد که مقادیر ویژگی دارای یک رابطه ریاضی با برچسب است. یعنی تعداد متر مربع در یک خانه احتمالاً رابطه ریاضی با ارزش خانه دارد.

همه داده های عدد صحیح نباید به عنوان داده های عددی ارائه شوند. به عنوان مثال ، کدهای پستی در برخی از نقاط جهان عدد صحیح هستند. با این حال ، کدهای پستی عدد صحیح نباید به عنوان داده های عددی در مدل ها ارائه شود. دلیل این امر این است که یک کد پستی 20000 به اندازه یک کد پستی 10000 دو برابر (یا نیم) نیست. علاوه بر این ، اگرچه کدهای مختلف پستی با ارزش های مختلف املاک و مستغلات ارتباط دارند ، ما نمی توانیم فرض کنیم که ارزش املاک و مستغلات در کد پستی 20000 دو برابر با ارزش املاک و مستغلات در کد پستی 10000 ارزشمند هستند. به جای آن ، کدهای پستی باید به عنوان داده های طبقه بندی شوند.

ویژگی های عددی گاهی اوقات ویژگی های مداوم نامیده می شوند.

O

آفلاین

#مبانی

مترادف برای استاتیک .

استنتاج آفلاین

#مبانی

فرآیند یک مدل تولید یک دسته از پیش بینی ها و سپس ذخیره (صرفه جویی) آن پیش بینی ها. سپس برنامه ها می توانند به جای اینکه دوباره مدل را دوباره انجام دهند ، به پیش بینی استنباط شده از حافظه نهان دسترسی پیدا کنند.

به عنوان مثال ، مدلی را در نظر بگیرید که هر چهار ساعت یک بار پیش بینی آب و هوا محلی (پیش بینی) را ایجاد می کند. پس از اجرای هر مدل ، سیستم تمام پیش بینی های آب و هوا محلی را ذخیره می کند. برنامه های هواشناسی پیش بینی ها را از حافظه نهان بازیابی می کنند.

استنتاج آفلاین نیز استنتاج استاتیک نامیده می شود.

تضاد با استنتاج آنلاین .

رمزگذاری یک داغ

#مبانی

نمایش داده های طبقه بندی به عنوان یک بردار که در آن:

• یک عنصر روی 1 تنظیم شده است.
• تمام عناصر دیگر روی 0 تنظیم شده اند.

رمزگذاری یک داغ معمولاً برای نشان دادن رشته ها یا شناسه هایی که دارای مجموعه ای محدود از مقادیر ممکن هستند ، استفاده می شود. به عنوان مثال ، فرض کنید یک ویژگی خاص خاص به نام Scandinavia دارای پنج مقدار ممکن است:

• "دانمارک"
• "سوئد"
• "نروژ"
• "فنلاند"
• "ایسلند"

رمزگذاری یک داغ می تواند هر یک از پنج مقدار را به شرح زیر نشان دهد:

کشور	بردار
"دانمارک"	1	0	0	0	0
"سوئد"	0	1	0	0	0
"نروژ"	0	0	1	0	0
"فنلاند"	0	0	0	1	0
"ایسلند"	0	0	0	0	1

با تشکر از رمزگذاری یک داغ ، یک مدل می تواند ارتباطات مختلفی را بر اساس هر یک از پنج کشور بیاموزد.

نمایندگی یک ویژگی به عنوان داده های عددی جایگزینی برای رمزگذاری یک داغ است. متأسفانه ، نمایندگی کشورهای اسکاندیناوی عددی انتخاب خوبی نیست. به عنوان مثال ، نمایش عددی زیر را در نظر بگیرید:

• "دانمارک" 0 است
• "سوئد" 1 است
• "نروژ" 2 است
• "فنلاند" 3 است
• "ایسلند" 4 است

با رمزگذاری عددی ، یک مدل اعداد خام را از نظر ریاضی تفسیر می کند و سعی می کند روی آن شماره ها آموزش ببیند. با این حال ، ایسلند در واقع دو برابر (یا نیمی از) چیزی به عنوان نروژ نیست ، بنابراین این مدل به نتیجه گیری های عجیبی می رسد.

یک ولتاژ همه

#مبانی

با توجه به یک مشکل طبقه بندی با کلاس های N ، راه حلی متشکل از طبقه بندی کننده های باینری جداگانه - یک طبقه بندی باینری برای هر نتیجه ممکن. به عنوان مثال ، با توجه به مدلی که نمونه هایی را به عنوان حیوانات ، سبزیجات یا مواد معدنی طبقه بندی می کند ، یک راه حل یک Vs.-ALL سه طبقه بندی باینری جداگانه زیر را ارائه می دهد:

• حیوان در مقابل حیوان نیست
• سبزیجات در مقابل سبزیجات
• مواد معدنی در مقابل مواد معدنی نیست

آنلاین

#مبانی

مترادف برای پویا .

استنباط آنلاین

#مبانی

ایجاد پیش بینی در مورد تقاضا. به عنوان مثال ، فرض کنید یک برنامه ورودی را به یک مدل منتقل می کند و درخواست پیش بینی را صادر می کند. سیستمی با استفاده از استنتاج آنلاین با اجرای مدل (و بازگشت پیش بینی به برنامه) به درخواست پاسخ می دهد.

تضاد با استنتاج آفلاین .

لایه خروجی

#مبانی

لایه "نهایی" یک شبکه عصبی. لایه خروجی حاوی پیش بینی است.

تصویر زیر یک شبکه عصبی عمیق کوچک با یک لایه ورودی ، دو لایه پنهان و یک لایه خروجی را نشان می دهد:

بیش از حد

#مبانی

ایجاد مدلی که با داده های آموزش آنقدر مطابقت داشته باشد که مدل نتواند پیش بینی های صحیح در مورد داده های جدید انجام دهد.

منظم سازی می تواند باعث کاهش بیش از حد شود. آموزش در یک مجموعه آموزش بزرگ و متنوع همچنین می تواند باعث کاهش بیش از حد شود.

برای یادداشت های اضافی روی نماد کلیک کنید.

بیش از حد مانند مشاوره فقط از معلم مورد علاقه خود پیروی می کند. احتمالاً در کلاس آن معلم موفق خواهید بود ، اما ممکن است به ایده های آن معلم "بیش از حد" بپردازید و در کلاس های دیگر ناموفق باشید. به دنبال مشاوره از ترکیبی از معلمان ، شما را قادر می سازد تا با موقعیت های جدید بهتر سازگار شوید.

---

پ

پانداها

#مبانی

API تجزیه و تحلیل داده های ستون گرا در بالای Numpy ساخته شده است. بسیاری از چارچوب های یادگیری ماشین ، از جمله Tensorflow ، از ساختار داده های پاندا به عنوان ورودی پشتیبانی می کنند. برای جزئیات بیشتر به مستندات Pandas مراجعه کنید.

پارامتر

#مبانی

وزنه ها و تعصباتی که یک مدل در طول تمرین می آموزد. به عنوان مثال ، در یک مدل رگرسیون خطی ، پارامترها از تعصب ( B ) و تمام وزن ( W ₁ ، W ₂ و غیره) در فرمول زیر تشکیل شده است:

$$y' = b + w_1x_1 + w_2x_2 + … w_nx_n$$

در مقابل ، HyperParameter مقادیری هستند که شما (یا یک سرویس چرخش Hyperparameter) به مدل عرضه می کنید. به عنوان مثال ، میزان یادگیری یک هیپرپارامتر است.

طبقه مثبت

#مبانی

کلاس که برای آن آزمایش می کنید.

به عنوان مثال ، کلاس مثبت در یک مدل سرطان ممکن است "تومور" باشد. کلاس مثبت در یک طبقه بندی کننده ایمیل ممکن است "هرزنامه" باشد.

تضاد با کلاس منفی .

برای یادداشت های اضافی روی نماد کلیک کنید.

اصطلاح کلاس مثبت می تواند گیج کننده باشد زیرا نتیجه "مثبت" بسیاری از تست ها اغلب یک نتیجه نامطلوب است. به عنوان مثال ، کلاس مثبت در بسیاری از آزمایشات پزشکی با تومورها یا بیماری ها مطابقت دارد. به طور کلی ، شما می خواهید یک پزشک به شما بگوید ، "تبریک می گویم! نتایج آزمون شما منفی بود." صرف نظر از این ، کلاس مثبت رویدادی است که آزمون به دنبال یافتن آن است.

مسلماً ، شما همزمان برای هر دو کلاس مثبت و منفی آزمایش می کنید.

---

پس از فرآیند

#انصاف

#مبانی

تنظیم خروجی یک مدل پس از اجرای مدل. پردازش پس از آن می تواند برای اجرای محدودیت های انصاف بدون اصلاح خود مدل ها استفاده شود.

به عنوان مثال ، ممکن است با تنظیم آستانه طبقه بندی ، پس از پردازش برای یک طبقه بندی باینری اعمال شود به گونه ای که برابری فرصت برای برخی از ویژگی ها با بررسی اینکه نرخ مثبت واقعی برای تمام مقادیر آن ویژگی یکسان است ، حفظ می شود.

پیش بینی

#مبانی

خروجی یک مدل به عنوان مثال:

• پیش بینی یک مدل طبقه بندی باینری یا کلاس مثبت یا کلاس منفی است.
• پیش بینی یک مدل طبقه بندی چند کلاس یک کلاس است.
• پیش بینی یک مدل رگرسیون خطی یک عدد است.

برچسب های پروکسی

#مبانی

داده های مورد استفاده برای تقریبی برچسب ها که به طور مستقیم در یک مجموعه داده موجود نیستند.

به عنوان مثال ، فرض کنید شما باید یک مدل را برای پیش بینی سطح استرس کارکنان آموزش دهید. مجموعه داده شما شامل بسیاری از ویژگی های پیش بینی کننده است اما حاوی برچسب به نام استرس نیست. بدون در نظر گرفتن ، شما "تصادفات در محل کار" را به عنوان یک برچسب پروکسی برای سطح استرس انتخاب می کنید. از این گذشته ، کارمندان تحت استرس زیاد به تصادفات بیشتر از کارمندان آرام می رسند. یا آنها؟ شاید تصادفات در محل کار به دلایل مختلف در واقع افزایش و سقوط کنند.

به عنوان مثال دوم ، فرض کنید می خواهید باران می بارد؟ برای اینکه یک برچسب بولی برای مجموعه داده های خود باشید ، اما مجموعه داده شما حاوی داده های باران نیست. اگر عکس ها در دسترس هستند ، ممکن است عکس هایی از افرادی که حامل چتر به عنوان یک برچسب پروکسی هستند ، ایجاد کنید؟ آیا این یک برچسب پروکسی خوبی است؟ احتمالاً ، اما افراد در بعضی از فرهنگ ها احتمالاً بیشتر از باران برای محافظت در برابر خورشید چترهایی برای محافظت در برابر خورشید دارند.

برچسب های پروکسی اغلب ناقص هستند. در صورت امکان ، برچسب های واقعی را روی برچسب های پروکسی انتخاب کنید. گفته می شود ، هنگامی که یک برچسب واقعی وجود ندارد ، برچسب پروکسی را با دقت انتخاب کنید و کمترین نامزد برچسب پروکسی را انتخاب کنید.

آر

RAG

#مبانی

مخفف برای نسل بازیابی و اوج .

ارزیاب

#مبانی

انسانی که برچسب هایی را برای مثال فراهم می کند. "حاشیه نویسی" نام دیگری برای Rater است.

واحد خطی اصلاح شده (RELU)

#مبانی

یک عملکرد فعال سازی با رفتار زیر:

• اگر ورودی منفی یا صفر باشد ، خروجی 0 است.
• اگر ورودی مثبت باشد ، خروجی برابر با ورودی است.

به عنوان مثال:

• اگر ورودی -3 باشد ، خروجی 0 است.
• اگر ورودی +3 باشد ، خروجی 3.0 است.

در اینجا یک طرح RELU آورده شده است:

RELU یک تابع فعال سازی بسیار محبوب است. با وجود رفتار ساده ، Relu هنوز یک شبکه عصبی را قادر می سازد تا روابط غیرخطی بین ویژگی ها و برچسب را بیاموزد.

مدل رگرسیون

#مبانی

به طور غیررسمی ، مدلی که پیش بینی عددی ایجاد می کند. (در مقابل ، یک مدل طبقه بندی پیش بینی کلاس را ایجاد می کند.) به عنوان مثال ، موارد زیر همه مدل های رگرسیون هستند:

• مدلی که ارزش یک خانه خاص مانند 423،000 یورو را پیش بینی می کند.
• مدلی که امید به زندگی یک درخت خاص را پیش بینی می کند ، مانند 23.2 سال.
• مدلی که میزان باران را که طی شش ساعت آینده در یک شهر خاص سقوط خواهد کرد ، مانند 0.18 اینچ پیش بینی می کند.

دو نوع متداول از مدل های رگرسیون عبارتند از:

• رگرسیون خطی ، که خطی را پیدا می کند که به بهترین وجه مقادیر برچسب را با ویژگی ها متناسب می کند.
• رگرسیون لجستیک ، که یک احتمال بین 0.0 تا 1.0 ایجاد می کند که یک سیستم به طور معمول سپس به یک پیش بینی کلاس می پردازد.

هر مدلی که پیش بینی های عددی را خروجی می کند ، یک مدل رگرسیون است. در بعضی موارد ، یک پیش بینی عددی واقعاً فقط یک مدل طبقه بندی است که به نظر می رسد نام کلاس عددی است. به عنوان مثال ، مدلی که یک کد پستی عددی را پیش بینی می کند ، یک مدل طبقه بندی است ، نه یک مدل رگرسیون.

منظم سازی

#مبانی

هر مکانیسمی که باعث کاهش بیش از حد شود. انواع منظم منظم شامل موارد زیر است:

• l ₁ منظم سازی
• تنظیم منظم L ₂
• تنظیم منظم ترک
• توقف زودرس (این یک روش تنظیم رسمی نیست ، اما می تواند به طور موثری بیش از حد را محدود کند)

منظم سازی همچنین می تواند به عنوان مجازات پیچیدگی یک مدل تعریف شود.

برای یادداشت های اضافی روی نماد کلیک کنید.

منظم سازی ضد انعطاف پذیر است. افزایش منظم معمولاً باعث افزایش ضرر تمرین می شود ، که گیج کننده است زیرا ، خوب ، هدف از دست دادن آموزش به حداقل نمی رسد؟

در واقع، نه. هدف این نیست که از دست دادن تمرین به حداقل برسد. هدف این است که پیش بینی های عالی در نمونه های دنیای واقعی انجام شود. نکته قابل توجه ، حتی اگر افزایش منظم باعث افزایش از دست دادن آموزش می شود ، معمولاً به مدل ها کمک می کند تا پیش بینی های بهتری را در نمونه های دنیای واقعی انجام دهند.

---

میزان منظم سازی

#مبانی

تعدادی که اهمیت نسبی تنظیم مجدد در طول آموزش را مشخص می کند. افزایش نرخ منظم باعث کاهش بیش از حد می شود اما ممکن است قدرت پیش بینی مدل را کاهش دهد. برعکس ، کاهش یا حذف نرخ منظم باعث افزایش بیش از حد می شود.

برای دیدن ریاضی روی نماد کلیک کنید.

نرخ منظم معمولاً به عنوان نامه یونانی لامبدا نشان داده می شود. معادله ضرر ساده زیر تأثیر لامبدا را نشان می دهد:

$$\text{minimize(loss function + }\lambda\text{(regularization))}$$

جایی که منظم سازی هر مکانیزم منظم است ، از جمله ؛

• l ₁ منظم سازی
• تنظیم منظم L ₂

---

ReLU

#مبانی

مخفف برای واحد خطی اصلاح شده .

نسل بازیابی-اوت (RAG)

#مبانی

تکنیکی برای بهبود کیفیت تولید مدل زبان بزرگ (LLM) با پایه گذاری آن با منابع دانش بازیابی شده پس از آموزش مدل. RAG با ارائه LLM آموزش دیده به اطلاعاتی که از پایگاه های دانش معتبر یا اسناد بازیابی شده است ، دقت پاسخ های LLM را بهبود می بخشد.

انگیزه های رایج برای استفاده از نسل بازیابی و اوج شامل موارد زیر است:

• افزایش دقت واقعی پاسخ های تولید شده یک مدل.
• دسترسی به مدل به دانش مورد نظر خود را آموزش نداد.
• تغییر دانشی که مدل از آن استفاده می کند.
• این مدل را قادر به استناد به منابع می کند.

به عنوان مثال ، فرض کنید که یک برنامه شیمی از API PALM برای تولید خلاصه های مربوط به نمایش داده های کاربر استفاده می کند. هنگامی که باطن برنامه پرس و جو دریافت می کند ، پس زمینه:

1. جستجو برای داده های ("بازیابی") که مربوط به پرس و جو کاربر است.
2. ضمیمه ("تقویت") داده های شیمی مربوط به پرس و جو کاربر.
3. به LLM دستور می دهد که بر اساس داده های ضمیمه خلاصه ایجاد کند.

منحنی ROC (مشخصه عملیاتی گیرنده)

#مبانی

نمودار از نرخ مثبت واقعی در مقابل نرخ مثبت کاذب برای آستانه طبقه بندی مختلف در طبقه بندی باینری.

شکل یک منحنی ROC توانایی یک مدل طبقه بندی باینری را برای جدا کردن کلاس های مثبت از کلاس های منفی نشان می دهد. به عنوان مثال فرض کنید که یک مدل طبقه بندی باینری کاملاً تمام کلاسهای منفی را از تمام کلاسهای مثبت جدا می کند:

منحنی ROC برای مدل قبلی به شرح زیر است:

در مقابل ، تصویر زیر مقادیر رگرسیون لجستیک خام را برای یک مدل وحشتناک که نمی تواند کلاس های منفی را از کلاس های مثبت جدا کند ، نمودار می کند:

منحنی ROC برای این مدل به شرح زیر است:

در همین حال ، در دنیای واقعی ، بیشتر مدلهای طبقه بندی باینری کلاسهای مثبت و منفی را تا حدی جدا می کنند ، اما معمولاً کاملاً مناسب نیستند. بنابراین ، یک منحنی ROC معمولی در جایی بین دو افراط قرار می گیرد:

نقطه در منحنی ROC نزدیک به (0.0،1.0) از لحاظ نظری آستانه طبقه بندی ایده آل را مشخص می کند. با این حال ، چندین موضوع دیگر در دنیای واقعی بر انتخاب آستانه طبقه بندی ایده آل تأثیر می گذارد. به عنوان مثال ، شاید منفی های دروغین باعث درد بسیار بیشتری نسبت به مثبت کاذب شوند.

یک متریک عددی به نام AUC منحنی ROC را به یک مقدار نقطه شناور واحد خلاصه می کند.

خطای مربع میانگین ریشه (RMSE)

#مبانی

ریشه مربع خطای میانگین مربع .

اس

عملکرد سیگموئید

#مبانی

یک عملکرد ریاضی که یک مقدار ورودی را در یک محدوده محدود ، به طور معمول 0 تا 1 یا -1 تا 1 +1 "خرد می کند". یعنی شما می توانید هر شماره (دو ، یک میلیون ، میلیارد منفی ، هر چیز دیگری) را به یک سیگموئید منتقل کنید و خروجی هنوز در محدوده محدود خواهد بود. نمودار تابع فعال سازی سیگموئید به صورت زیر است:

عملکرد سیگموئید چندین کاربرد در یادگیری ماشین دارد ، از جمله:

• تبدیل خروجی خام یک رگرسیون لجستیک یا مدل رگرسیون چندمجمی به یک احتمال.
• به عنوان یک تابع فعال سازی در برخی از شبکه های عصبی عمل می کند.

برای دیدن ریاضی روی نماد کلیک کنید.

عملکرد سیگموئید بیش از یک شماره ورودی X فرمول زیر را دارد:

$$ sigmoid(x) = \frac{1}{1 + e^{-\text{x}}} $$

در یادگیری ماشین ، X به طور کلی یک مقدار وزنی است.

---

نرم

#مبانی

تابعی که احتمالات را برای هر کلاس ممکن در یک مدل طبقه بندی چند طبقه تعیین می کند. احتمالات دقیقاً به 1.0 اضافه می شود. به عنوان مثال ، جدول زیر نشان می دهد که چگونه SoftMax احتمالات مختلف را توزیع می کند:

تصویر یک ...	احتمال
سگ	.85
گربه	.13
اسب	.02

SoftMax همچنین Full Softmax نامیده می شود.

تضاد با نمونه گیری نامزد .

برای دیدن ریاضی روی نماد کلیک کنید.

معادله SoftMax به شرح زیر است:

$$\sigma_i = \frac{e^{\text{z}_i}} {\sum_{j=1}^{j=K} {e^{\text{z}_j}}} $$

کجا:

• $ \ sigma_i $ بردار خروجی است. هر عنصر از بردار خروجی احتمال این عنصر را مشخص می کند. مجموع تمام عناصر موجود در بردار خروجی 1.0 است. بردار خروجی شامل همان تعداد عناصر مانند بردار ورودی ، $ Z $ است.
• $ Z $ بردار ورودی است. هر عنصر از بردار ورودی حاوی یک مقدار نقطه شناور است.
• $ k $ تعداد عناصر موجود در بردار ورودی (و بردار خروجی) است.

به عنوان مثال ، فرض کنید بردار ورودی:

[1.2, 2.5, 1.8]

بنابراین ، SoftMax مخرج را به شرح زیر محاسبه می کند:

$$\text{denominator} = e^{1.2} + e^{2.5} + e^{1.8} = 21.552$$

احتمال softmax هر عنصر بنابراین است:

$$\sigma_1 = \frac{e^{1.2}}{21.552} = 0.154 $$$$\sigma_2 = \frac{e^{2.5}}{21.552} = 0.565 $$$$\sigma_1 = \frac{e^{1.8}}{21.552} = 0.281 $$

بنابراین ، بردار خروجی بنابراین:

$$\sigma = [0.154, 0.565, 0.281]$$

مجموع سه عنصر در $ \ sigma $ 1.0 است. اوه!

---

ویژگی پراکنده

#زبان

#مبانی

ویژگی ای که مقادیر آن عمدتا صفر یا خالی است. به عنوان مثال ، یک ویژگی حاوی یک مقدار 1 و یک میلیون مقدار 0 مقدار پراکنده است. در مقابل ، یک ویژگی متراکم دارای مقادیری است که عمدتا صفر یا خالی نیستند.

در یادگیری ماشین ، تعداد غافلگیرکننده ای از ویژگی ها از ویژگی های پراکنده هستند. ویژگی های طبقه بندی شده معمولاً ویژگی های پراکنده است. به عنوان مثال ، از 300 گونه درخت ممکن در یک جنگل ، یک مثال واحد ممکن است فقط یک درخت افرا را شناسایی کند. یا از میلیون ها فیلم ممکن در یک کتابخانه ویدیویی ، یک مثال واحد ممکن است فقط "Casablanca" را مشخص کند.

در یک مدل ، شما به طور معمول ویژگی های پراکنده را با رمزگذاری یک داغ نشان می دهید. اگر رمزگذاری یک داغ بزرگ باشد ، ممکن است یک لایه تعبیه شده را در بالای رمزگذاری یک داغ برای راندمان بیشتر قرار دهید.

نمایش پراکنده

#زبان

#مبانی

ذخیره فقط موقعیت (های) عناصر nonzero در یک ویژگی پراکنده.

به عنوان مثال ، فرض کنید یک ویژگی طبقه بندی شده به نام species 36 گونه درخت را در یک جنگل خاص مشخص می کند. بیشتر فرض کنید که هر مثال فقط یک گونه واحد را مشخص می کند.

در هر مثال می توانید از یک بردار یک داغ استفاده کنید تا گونه های درخت را نشان دهد. یک بردار یک داغ حاوی 1 (برای نشان دادن گونه های خاص درخت در آن مثال) و 35 0 ثانیه (برای نشان دادن 35 گونه درختی که در آن مثال نیست ). بنابراین ، نمایش یک داغ maple ممکن است چیزی شبیه به موارد زیر باشد:

از طرف دیگر ، نمایندگی پراکنده به سادگی موقعیت گونه های خاص را مشخص می کند. اگر maple در موقعیت 24 قرار داشته باشد ، نمایش پراکنده maple به سادگی خواهد بود:

24

توجه کنید که نمایندگی پراکنده بسیار فشرده تر از نمایندگی یک داغ است.

توجه: شما نباید یک نمایش پراکنده را به عنوان یک ورودی مستقیم به یک مدل منتقل کنید. درعوض ، شما باید قبل از آموزش روی آن ، نمایندگی پراکنده را به یک نمایشگر یک داغ تبدیل کنید.

برای مثال کمی پیچیده تر روی نماد کلیک کنید.

فرض کنید هر نمونه در مدل شما باید کلمات را نشان دهد - اما نه ترتیب آن کلمات - در یک جمله انگلیسی. انگلیسی از حدود 170،000 کلمه تشکیل شده است ، بنابراین انگلیسی یک ویژگی طبقه بندی شده با حدود 170،000 عنصر است. بیشتر جملات انگلیسی از بخش بسیار کوچکی از 170،000 کلمه استفاده می کنند ، بنابراین مجموعه ای از کلمات در یک مثال واحد تقریباً مطمئناً داده های پراکنده خواهد بود.

جمله زیر را در نظر بگیرید:

My dog is a great dog

برای نشان دادن کلمات در این جمله می توانید از یک نوع وکتور یک داغ استفاده کنید. در این نوع ، سلول های متعدد در وکتور می توانند حاوی مقدار غیرزرو باشند. علاوه بر این ، در این نوع ، یک سلول می تواند دارای یک عدد صحیح غیر از یک باشد. اگرچه کلمات "من" ، "،" A "و" عالی "فقط یک بار در جمله ظاهر می شوند ، کلمه" سگ "دو بار ظاهر می شود. با استفاده از این نوع بردارهای یک داغ برای نشان دادن کلمات در این جمله ، بردار 170،000 عنصر زیر را به همراه می آورد:

بازنمایی پراکنده از همان جمله به سادگی خواهد بود:

0: 1
26100: 2
45770: 1
58906: 1
91520: 1

---

در صورت سردرگمی روی نماد کلیک کنید.

اصطلاح "نمایندگی پراکنده" بسیاری از افراد را گیج می کند زیرا نمایندگی پراکنده خود یک بردار پراکنده نیست . در عوض ، نمایندگی پراکنده در واقع نمایشی متراکم از یک بردار پراکنده است. بازنمایی شاخص مترادف کمی واضح تر از "نمایندگی پراکنده" است.

---

بردار پراکنده

#مبانی

وکتوری که مقادیر آن بیشتر صفر است. همچنین ویژگی پراکنده و کمبود را ببینید.

از دست دادن مربع

#مبانی

مترادف برای از دست دادن L ₂ .

ایستا

#مبانی

کاری که یک بار انجام شده است و نه به طور مداوم. اصطلاحات استاتیک و آفلاین مترادف هستند. موارد زیر کاربردهای متداول استاتیک و آفلاین در یادگیری ماشین است:

• مدل استاتیک (یا مدل آفلاین ) مدلی است که یک بار آموزش دیده و سپس برای مدتی استفاده می شود.
• آموزش استاتیک (یا آموزش آفلاین ) روند آموزش یک مدل استاتیک است.
• static inference (or offline inference ) is a process in which a model generates a batch of predictions at a time.

Contrast with dynamic .

static inference

#مبانی

Synonym for offline inference .

ایستایی

#مبانی

A feature whose values don't change across one or more dimensions, usually time. For example, a feature whose values look about the same in 2021 and 2023 exhibits stationarity.

In the real world, very few features exhibit stationarity. Even features synonymous with stability (like sea level) change over time.

Contrast with nonstationarity .

stochastic gradient descent (SGD)

#مبانی

A gradient descent algorithm in which the batch size is one. In other words, SGD trains on a single example chosen uniformly at random from a training set .

supervised machine learning

#مبانی

Training a model from features and their corresponding labels . Supervised machine learning is analogous to learning a subject by studying a set of questions and their corresponding answers. After mastering the mapping between questions and answers, a student can then provide answers to new (never-before-seen) questions on the same topic.

Compare with unsupervised machine learning .

synthetic feature

#مبانی

A feature not present among the input features, but assembled from one or more of them. Methods for creating synthetic features include the following:

• Bucketing a continuous feature into range bins.
• Creating a feature cross .
• Multiplying (or dividing) one feature value by other feature value(s) or by itself. For example, if a and b are input features, then the following are examples of synthetic features:
  • ab
  • یک ²
• Applying a transcendental function to a feature value. For example, if c is an input feature, then the following are examples of synthetic features:
  • sin(c)
  • ln(c)

Features created by normalizing or scaling alone are not considered synthetic features.

تی

test loss

#مبانی

A metric representing a model's loss against the test set . When building a model , you typically try to minimize test loss. That's because a low test loss is a stronger quality signal than a low training loss or low validation loss .

A large gap between test loss and training loss or validation loss sometimes suggests that you need to increase the regularization rate .

آموزش

#مبانی

The process of determining the ideal parameters (weights and biases) comprising a model . During training, a system reads in examples and gradually adjusts parameters. Training uses each example anywhere from a few times to billions of times.

training loss

#مبانی

A metric representing a model's loss during a particular training iteration. For example, suppose the loss function is Mean Squared Error . Perhaps the training loss (the Mean Squared Error) for the 10th iteration is 2.2, and the training loss for the 100th iteration is 1.9.

A loss curve plots training loss versus the number of iterations. A loss curve provides the following hints about training:

• A downward slope implies that the model is improving.
• An upward slope implies that the model is getting worse.
• A flat slope implies that the model has reached convergence .

For example, the following somewhat idealized loss curve shows:

• A steep downward slope during the initial iterations, which implies rapid model improvement.
• A gradually flattening (but still downward) slope until close to the end of training, which implies continued model improvement at a somewhat slower pace then during the initial iterations.
• A flat slope towards the end of training, which suggests convergence.

Although training loss is important, see also generalization .

training-serving skew

#مبانی

The difference between a model's performance during training and that same model's performance during serving .

training set

#مبانی

The subset of the dataset used to train a model .

Traditionally, examples in the dataset are divided into the following three distinct subsets:

• a training set
• a validation set
• a test set

Ideally, each example in the dataset should belong to only one of the preceding subsets. For example, a single example shouldn't belong to both the training set and the validation set.

true negative (TN)

#مبانی

An example in which the model correctly predicts the negative class . For example, the model infers that a particular email message is not spam , and that email message really is not spam .

true positive (TP)

#مبانی

An example in which the model correctly predicts the positive class . For example, the model infers that a particular email message is spam, and that email message really is spam.

true positive rate (TPR)

#مبانی

Synonym for recall . یعنی:

$$\text{true positive rate} = \frac{\text{true positives}} {\text{true positives} + \text{false negatives}}$$

True positive rate is the y-axis in an ROC curve .

U

underfitting

#مبانی

Producing a model with poor predictive ability because the model hasn't fully captured the complexity of the training data. Many problems can cause underfitting, including:

• Training on the wrong set of features .
• Training for too few epochs or at too low a learning rate .
• Training with too high a regularization rate .
• Providing too few hidden layers in a deep neural network.

unlabeled example

#مبانی

An example that contains features but no label . For example, the following table shows three unlabeled examples from a house valuation model, each with three features but no house value:

تعداد اتاق خواب	Number of bathrooms	House age
3	2	15
2	1	72
4	2	34

In supervised machine learning , models train on labeled examples and make predictions on unlabeled examples .

In semi-supervised and unsupervised learning, unlabeled examples are used during training.

Contrast unlabeled example with labeled example .

یادگیری ماشینی بدون نظارت

#خوشه بندی

#مبانی

Training a model to find patterns in a dataset, typically an unlabeled dataset.

The most common use of unsupervised machine learning is to cluster data into groups of similar examples. For example, an unsupervised machine learning algorithm can cluster songs based on various properties of the music. The resulting clusters can become an input to other machine learning algorithms (for example, to a music recommendation service). Clustering can help when useful labels are scarce or absent. For example, in domains such as anti-abuse and fraud, clusters can help humans better understand the data.

Contrast with supervised machine learning .

برای یادداشت های اضافی روی نماد کلیک کنید.

Another example of unsupervised machine learning is principal component analysis (PCA) . For example, applying PCA on a dataset containing the contents of millions of shopping carts might reveal that shopping carts containing lemons frequently also contain antacids.

---

V

اعتبار سنجی

#مبانی

The initial evaluation of a model's quality. Validation checks the quality of a model's predictions against the validation set .

Because the validation set differs from the training set , validation helps guard against overfitting .

You might think of evaluating the model against the validation set as the first round of testing and evaluating the model against the test set as the second round of testing.

validation loss

#مبانی

A metric representing a model's loss on the validation set during a particular iteration of training.

See also generalization curve .

validation set

#مبانی

The subset of the dataset that performs initial evaluation against a trained model . Typically, you evaluate the trained model against the validation set several times before evaluating the model against the test set .

Traditionally, you divide the examples in the dataset into the following three distinct subsets:

• a training set
• a validation set
• a test set

Ideally, each example in the dataset should belong to only one of the preceding subsets. For example, a single example shouldn't belong to both the training set and the validation set.

دبلیو

وزن

#مبانی

A value that a model multiplies by another value. Training is the process of determining a model's ideal weights; inference is the process of using those learned weights to make predictions.

Click the icon to see an example of weights in a linear model.

Imagine a linear model with two features. Suppose that training determines the following weights (and bias ):

• The bias, b, has a value of 2.2
• The weight, w ₁ associated with one feature is 1.5.
• The weight, w ₂ associated with the other feature is 0.4.

Now imagine an example with the following feature values:

• The value of one feature, x ₁ , is 6.
• The value of the other feature, x ₂ , is 10.

This linear model uses the following formula to generate a prediction, y':

$$y' = b + w_1x_1 + w_2x_2$$

Therefore, the prediction is:

$$y' = 2.2 + (1.5)(6) + (0.4)(10) = 15.2$$

If a weight is 0, then the corresponding feature doesn't contribute to the model. For example, if w ₁ is 0, then the value of x ₁ is irrelevant.

---

weighted sum

#مبانی

The sum of all the relevant input values multiplied by their corresponding weights. For example, suppose the relevant inputs consist of the following:

مقدار ورودی	وزن ورودی
2	-1.3
-1	0.6
3	0.4

بنابراین مجموع وزنی عبارت است از:

weighted sum = (2)(-1.3) + (-1)(0.6) + (3)(0.4) = -2.0

A weighted sum is the input argument to an activation function .

ز

عادی سازی امتیاز Z

#مبانی

A scaling technique that replaces a raw feature value with a floating-point value representing the number of standard deviations from that feature's mean. For example, consider a feature whose mean is 800 and whose standard deviation is 100. The following table shows how Z-score normalization would map the raw value to its Z-score:

Raw value	امتیاز Z
800	0
950	+1.5
575	-2.25

The machine learning model then trains on the Z-scores for that feature instead of on the raw values.