مقاله و تحقیق دانشجویی

پاورپوینت طبقه‌بندهای مبتنی‌بر تئوری بیز Classifiers based on Bayes Decision Theory

55 اسلاید در قالب پارپوینت قابل ویرایش

اسلاید 1

رئوس مطالب

1- تئوری تصمیم بیز

2- توابع تمایز و سطوح تصمیم

3- طبقه‌بندی بیزین برای توزیع‌های نرمال

4- تخمین توابع چگالی احتمال نامعلوم

5- قاعده نزدیکترین همسایه

6- شبکه‌های بیزین

اسلاید 2

1- تئوری تصمیم بیز

üهدف طراحی طبقه‌بندی جهت قراردادن یک الگوی ناشناس در محتمل‌ترین کلاس

üفرض M کلاس از ω1، ω2، ...، ωM موجود بوده و یک بردار ویژگی ناشناس x داریم.

üM احتمال شرطی بصورت P(ωi|x), i =1, 2, …, M را تشکیل می‌دهیم، این توابع احتمال شرطی را احتمالات پسین نیز می‌نامند

üهر احتمال‌پسین بیانگر میزان تعلق بردار x به کلاس ωi می‌باشد

üمحتمل‌ترین کلاس می‌تواند برابر اندیس احتمال شرطی بیشینه باشد و x به آن تعلق دارد

üکار طراحی با تخمین توابع چگالی احتمال (pdf) از روی بردارهای ویژگی مجموعه داده آموزش شروع می‌شود

üبرای سادگی، مسئله دو کلاسه را در نظر بگیرید (ω1، ω2) و احتمال‌ پیشین اتفاق هر کلاس نیز معلوم فرض می‌شود

üحتی اگر اینگونه نبود، به آسانی قابل تخمین‌زدن می‌باشند (غیر دقیق)

اسلاید 3

üتوابع چگالی احتمال شرطی کلاس، P(x|ωi), i =1, 2، بیانگر توزیع هر بردار ویژگی در کلاس مربوطه، قابل تخمین توسط داده آموزش؛ این تابع بعنوان تابع همانندی (likelihood function) نیز شناخته می‌شود

üطبق قاعده بیز

üقاعده طبقه‌بندی بیز

üبا جایگزینی قاعده بیز در رابطه طبقه‌بندی، داریم

üهمانطور که می‌بینیم، به P(x) در رابطه نهایی احتیاجی نیست و اگر احتمال پیشین وقوع کلاسها را برابر در نظر بگیریم داریم:

اسلاید 4

üطبق قاعده تصمیم بیز، بازای تمام مقادیر x در R1 بردار ویژگی متعلق به کلاس یک و در غیر اینصورت به کلاس دو تعلق دارد

üبوضوح از روی شکل، خطاهای تصمیم‌گیری غیرقابل اجتناب می‌باشند