دانلود کتاب The minimum description length principle

ترجمه فارسی توضیحات (ترجمه ماشینی)

اصل حداقل طول توضیحات

اصل حداقل طول توصیف (MDL) یک روش قدرتمند برای استنتاج استقرایی، مبنای مدل‌سازی آماری، تشخیص الگو و یادگیری ماشین است. بر این باور است که بهترین توضیح، با توجه به مجموعه محدودی از داده های مشاهده شده، توضیحی است که بیشترین فشرده سازی داده ها را ممکن می سازد. روش‌های MDL به‌ویژه برای برخورد با مشکلات انتخاب مدل، پیش‌بینی و برآورد در موقعیت‌هایی که مدل‌های مورد بررسی می‌توانند خودسرانه پیچیده باشند، مناسب هستند و تطبیق بیش از حد داده‌ها یک نگرانی جدی است. این مقدمه گسترده و گام به گام بر اصل MDL یک مرجع جامع (با تأکید بر مسائل مفهومی) ارائه می دهد که برای دانشجویان فارغ التحصیل و محققان در آمار، طبقه بندی الگوها، یادگیری ماشین و داده کاوی، برای فیلسوفان علاقه مند به مبانی آمار، و به محققان در سایر علوم کاربردی که شامل انتخاب مدل، از جمله زیست شناسی، اقتصاد سنجی، و روانشناسی تجربی است. بخش اول مقدمه ای اساسی بر MDL و مروری بر مفاهیم آمار و تئوری اطلاعات مورد نیاز برای درک MDL ارائه می دهد. بخش دوم به کدگذاری جهانی می‌پردازد، مفهوم نظری اطلاعاتی که MDL بر اساس آن ساخته شده است، و بخش سوم به بررسی رسمی نظریه MDL به عنوان نظریه استنتاج استقرایی بر اساس کدگذاری جهانی می‌پردازد. بخش چهارم مروری جامع بر نظریه آماری خانواده‌های نمایی با تأکید بر ویژگی‌های نظری اطلاعاتی آنها ارائه می‌کند. متن شامل تعدادی خلاصه، پاراگراف هایی است که به خواننده «مسیر سریع» را از طریق مطالب ارائه می دهد، و کادرهایی که مهمترین مفاهیم را برجسته می کنند.

The minimum description length principle

The minimum description length (MDL) principle is a powerful method of inductive inference, the basis of statistical modeling, pattern recognition, and machine learning. It holds that the best explanation, given a limited set of observed data, is the one that permits the greatest compression of the data. MDL methods are particularly well-suited for dealing with model selection, prediction, and estimation problems in situations where the models under consideration can be arbitrarily complex, and overfitting the data is a serious concern. This extensive, step-by-step introduction to the MDL Principle provides a comprehensive reference (with an emphasis on conceptual issues) that is accessible to graduate students and researchers in statistics, pattern classification, machine learning, and data mining, to philosophers interested in the foundations of statistics, and to researchers in other applied sciences that involve model selection, including biology, econometrics, and experimental psychology. Part I provides a basic introduction to MDL and an overview of the concepts in statistics and information theory needed to understand MDL. Part II treats universal coding, the information-theoretic notion on which MDL is built, and part III gives a formal treatment of MDL theory as a theory of inductive inference based on universal coding. Part IV provides a comprehensive overview of the statistical theory of exponential families with an emphasis on their information-theoretic properties. The text includes a number of summaries, paragraphs offering the reader a “fast track” through the material, and boxes highlighting the most important concepts.