پروژه پاورپوینت یادگیری درخت تصمیم و الگوریتم ID3

خلاصه ای از پروژه:

یادگیری درخت تصمیم، روشی برای تقریب توابع هدف با مقادیر گسسته است که در آن، فرضیه‌ها با استفاده از درخت تصمیم نمایش داده می‌شوند و از الگوریتم ID3 برای یادگیری این درخت استفاده می‌شود. درخت تصمیم، ابزاری قدرتمند در هوش مصنوعی است که برای نمایش مفاهیم مختلف به کار می‌رود و درختی است که نمونه‌ها را به نحوی دسته‌بندی می‌کند که از ریشه به سمت پایین رشد می‌کنند و در نهایت به گره‌های برگ می‌رسند. هر گره داخلی با یک ویژگی مشخص می‌شود و شاخه‌ها با مقادیر ممکن آن ویژگی برچسب‌گذاری می‌شوند، در حالی که برگ‌ها با یک کلاس یا دسته از جواب‌ها مشخص می‌شوند.

درخت تصمیم در مسائلی کاربرد دارد که پاسخ واحدی به صورت نام یک دسته یا کلاس ارائه می‌دهند و برای مثال‌هایی مناسب است که به صورت زوج (مقدار-ویژگی) مشخص شده باشند. این روش نسبت به نویز داده‌ها مقاوم بوده و قادر است ترکیب فصلی گزاره‌های عطفی را یاد بگیرد. درخت تصمیم برای تقریب توابع گسسته به کار می‌رود، نسبت به نویز داده‌های ورودی مقاوم است، برای داده‌های با حجم بالا کاراست و می‌تواند به صورت قوانین if-then نمایش داده شود.

اغلب الگوریتم‌های یادگیری درخت تصمیم بر پایه یک عمل جستجوی حریصانه بالا به پایین در فضای درخت‌های موجود عمل می‌کنند. الگوریتم ID3 با انتخاب بهترین ویژگی برای قرار گرفتن در ریشه درخت، درخت تصمیم را از بالا به پایین می‌سازد. برای یافتن جواب از یک آزمون آماری استفاده می‌شود تا مشخص گردد هر کدام تا چه حد قادر است به تنهائی مثالهای آزمایشی را دسته بندی کند. این الگوریتم با این سوال شروع میشود: کدام ویژگی باید در ریشه درخت مورد آزمایش قرار گیرد؟

برای ساختن درخت تصمیم از مثال‌هایی استفاده می‌شود که علامت‌گذاری شده باشند. در واقع ورودی سیستم یادگیر مجموعه‌ای از مثال‌هاست که هر مثال توسط مجموعه‌ای از ویژگی‌ها بیان شده است و هر ویژگی می‌تواند دارای مجموعه متناهی از مقادیر مختلف باشد. برای هر مثال علاوه بر ویژگی‌ها مقدار دسته‌بندی آن نیز لازم می‌باشد.

درخت تصمیم (ID3) از یک مقدار آماری به نام بهره اطلاعات (Information Gain) استفاده می‌کند تا مشخص کند که یک ویژگی تا چه مقدار قادر است مثال‌های آموزشی را بر حسب دسته‌بندی آن‌ها جدا کند. بهره اطلاعات یک ویژگی عبارت است از مقدار کاهش آنتروپی که بواسطه جداسازی مثالها از طریق این ویژگی حاصل میشود.

همین حالا به پروژه‌های برتر دانشجویی دسترسی پیدا کنید! پروژه‌های آماده برای استفاده و دانلود آسان، راه حل شما برای موفقیت در پروژه‌های دانشجویی.

عناوین و فهرست کلی پروژه:

یادگیری درخت تصمیم

**مقدمه**

**درخت تصمیم**
* نمایش درخت تصمیم
* مثالی از یک درخت تصمیم
* کاربردها
* ویژگی های درخت تصمیم
* نحوه نمایش درخت تصمیم
* ترکیب عطفی
* ترکیب فصلی
* تابع XOR

**الگوریتم یادگیری درخت تصمیم**
* ایده اصلی ID3
* بایاس درخت تصمیم
* الگوریتم ID3
* نحوه ساختن درخت
* کدام ویژگی طبقه بندی کننده بهتری است؟
* آنتروپی
* آنتروپی برای دسته بندی های غیر بولی
* بهره اطلاعات (Information Gain)
* مثال

**Overfitting**
* دلایل بروز Overfitting
* پرهیز از Overfitting
* حرس کردن درخت به روش Reduced Error Pruning
* Overfitting یک پدیده عمومی است
* در نظر گرفتن ویژگی های با مقادیر پیوسته
* سایر معیارهای انتخاب ویژگی برای درخت
* معیار نسبت بهره یا gain ratio
* ویژگی هائی با هزینه متفاوت
* مثالهائی با ویژگی های نامعلوم

**UCI Machine Learning Repository**

**موضوع ارائه