طبقه بندی چند کلاسه را می توان به عنوان گسترش طبقه بندی باینری به بیش از دو کلاس در نظر گرفت. اگر هر مثال را فقط می توان به یک کلاس نسبت داد، آنگاه مسئله طبقه بندی را می توان به عنوان یک مسئله طبقه بندی باینری در نظر گرفت، که در آن یک کلاس شامل یکی از کلاس های متعدد و کلاس دیگر شامل تمام کلاس های دیگر است. سپس این فرآیند می تواند برای هر یک از کلاس های اصلی تکرار شود.
به عنوان مثال، در یک مسئله طبقه‌بندی چند کلاسه سه کلاسه، که در آن مثال‌ها را با برچسب‌های A ، B و C طبقه‌بندی می‌کنید، می‌توانید مسئله را به دو مسئله طبقه‌بندی باینری جداگانه تبدیل کنید. ابتدا، ممکن است یک طبقه‌بندی باینری ایجاد کنید که نمونه‌ها را با استفاده از برچسب A+B و برچسب C دسته‌بندی می‌کند. سپس، می‌توانید یک طبقه‌بندی‌کننده باینری دوم ایجاد کنید که نمونه‌هایی را که دارای برچسب A+B با استفاده از برچسب A و برچسب B هستند، مجدداً طبقه‌بندی می‌کند.
یک مثال از یک مسئله چند کلاسه، یک طبقه‌بندی دست‌نویس است که تصویری از یک رقم دست‌نویس می‌گیرد و تصمیم می‌گیرد که کدام رقم، ۰-۹، نشان داده شود.
اگر عضویت در کلاس انحصاری نباشد، یعنی می‌توان مثالی را به چندین کلاس اختصاص داد، این به عنوان یک مشکل طبقه‌بندی چند برچسبی شناخته می‌شود.