دانلود کتاب Information and complexity in statistical modeling

ترجمه فارسی توضیحات (ترجمه ماشینی)

اطلاعات و پیچیدگی در مدل سازی آماری

هیچ مدل آماری “درست” یا “نادرست”، “درست” یا “نادرست” نیست. مدل ها فقط عملکرد متفاوتی دارند که می توان آنها را ارزیابی کرد. موضوع اصلی این کتاب آموزش مدل‌سازی بر اساس این اصل است که هدف استخراج اطلاعات از داده‌هایی است که می‌توان با کلاس‌های پیشنهادی مدل‌های احتمال یاد گرفت. مفاهیم شهودی و اساسی پیچیدگی، اطلاعات قابل یادگیری و نویز رسمیت یافته است، که یک پایه نظری اطلاعات محکم برای مدل‌سازی آماری فراهم می‌کند. با الهام از تابع ساختار کولموگروف در نظریه الگوریتمی پیچیدگی، این کار با یافتن کوتاه‌ترین طول کد به نام پیچیدگی تصادفی انجام می‌شود که با استفاده از آن می‌توان داده‌ها را زمانی که از مدل‌ها در یک کلاس پیشنهادی استفاده می‌شود، کدگذاری کرد. اصل MDL (حداقل طول توضیحات). پیچیدگی، به نوبه خود، به کوتاه‌ترین طول کد برای مدل بهینه در مجموعه‌ای از مدل‌ها تقسیم می‌شود که می‌توانند به طور بهینه از داده‌های داده شده و بقیه متمایز شوند، که «نویز» را به عنوان بخش غیرقابل تراکم در داده‌ها بدون اطلاعات مفید تعریف می‌کند. .

چنین دیدگاهی از مسئله مدل‌سازی امکان بررسی یکپارچه هر نوع پارامتر، تعداد آنها و حتی ساختار آنها را فراهم می‌کند. از آنجایی که تنها مدل‌های متمایز بهینه ارزش آزمایش را دارند، ما یک درمان منطقی و ساده از آزمون فرضیه دریافت می‌کنیم، که در آن برای اولین بار می‌توان اعتماد به نتیجه آزمون را ارزیابی کرد. اگرچه پیش نیازها فقط شامل محاسبات احتمالی و آمار اولیه است، اما سطح متوسطی از مهارت ریاضی مفید خواهد بود. دیدگاه متفاوت و منطقی غیرقابل انکار مدل‌سازی آماری باید زمینه‌های بسیار خوبی را برای تحقیقات بیشتر فراهم کند و موضوعاتی را برای دانشجویان فارغ‌التحصیل در همه رشته‌های مهندسی مدرن، از جمله و نه محدود به پردازش سیگنال و تصویر، بیوانفورماتیک، تشخیص الگو و یادگیری ماشین پیشنهاد کند. چند.

Information and complexity in statistical modeling

No statistical model is “true” or “false,” “right” or “wrong”; the models just have varying performance, which can be assessed. The main theme in this book is to teach modeling based on the principle that the objective is to extract the information from data that can be learned with suggested classes of probability models. The intuitive and fundamental concepts of complexity, learnable information, and noise are formalized, which provides a firm information theoretic foundation for statistical modeling. Inspired by Kolmogorov’s structure function in the algorithmic theory of complexity, this is accomplished by finding the shortest code length, called the stochastic complexity, with which the data can be encoded when advantage is taken of the models in a suggested class, which amounts to the MDL (Minimum Description Length) principle. The complexity, in turn, breaks up into the shortest code length for the optimal model in a set of models that can be optimally distinguished from the given data and the rest, which defines “noise” as the incompressible part in the data without useful information.

Such a view of the modeling problem permits a unified treatment of any type of parameters, their number, and even their structure. Since only optimally distinguished models are worthy of testing, we get a logically sound and straightforward treatment of hypothesis testing, in which for the first time the confidence in the test result can be assessed. Although the prerequisites include only basic probability calculus and statistics, a moderate level of mathematical proficiency would be beneficial. The different and logically unassailable view of statistical modelling should provide excellent grounds for further research and suggest topics for graduate students in all fields of modern engineering, including and not restricted to signal and image processing, bioinformatics, pattern recognition, and machine learning to mention just a few.