استنباط آماري مدل رگرسيوني با خطاهاي خودبازگشتي به روش لاسو- قسمت 2

درمدلهای رگرسیون خطی، روشهای انقباضی یکی از راهحلها برای بهبود برآورد کمترین مربعات میباشد. در این پایاننامه، پس از معرفی مدل رگرسیون خطی چندگانه و مسئله چندهمخطی، ابتدا به معرفی روشهای انقباضی پرداخته و سپس به برآوردیابی در مدلهای رگرسیونی خطی با خطاهای خودبازگشتی به وسیله روش انقباضی لاسو میپردازیم. دو نوع برآوردگر لاسو سنتی و اصلاح شده را معرفی و خواص مجانبی آنها را مطالعه کردهایم. الگوریتمی را جهت محاسبه این برآوردگرها ارایه داده و در پایان با ارایه دو مثال به مقایسه این برآوردگرها پرداختهایم.
کلید واژهبرآوردگرپیشگو، انقباض،مدل رگرسیونی با خطای خود بازگشتی، لاسو
فهرست مطالب
عنوان صفحه
فصل اول: مقدمات و تعاریف
مقدمه : 2
1-1-رگرسیون خطی چندگانه و مسئله چند همخطی 2
1-2-رگرسیون ریج 4
1-3-بریج 5
1-4-لاسو 6
1-4-1-رفتار مجانبی 8
1-5-تعاریف 10
1-5-1- تُنُکی 10
1-5-2-برآوردگر پیشگو 10
1-5-3-نماد لاندا 11
1-5-4-بهینه سازی محدب 12
1-5-5-1-همگرایی در توزیع 12
1-5-5-2-همگرایی در احتمال 13
1-5-5-3-سازگاری با نرخ ریشه ام 13
1-5-5-4-همگرایی با احتمال یک 14
1-5-6-فرایند ایستا 14
1-5-7-فرایند خودبازگشتی-میانگین متحرک 14
1-5-8-معیارهای انتخاب مدل 15
1-5-8-1-معیار اطلاع بیزی 15
1-5-8-2-اعتبارسنجی متقابل 16
اعتبارسنجی متقابل لایه 17
فصل دوم: برآوردگرهای لاسو برای پارامترهای مدل رگرسیون خطی با خطاهای خودبازگشتی
2-1-مدل رگرسیون خطی با خطای سری زمانی 21
2-2-برآوردکمترین مربعات درمدل رگرسیونی باخطاهای خودبازگشتی میانگین متحرک 22
2-3-برآورد کمترین مربعات پارامترها 24
2-4-توزیع برآوردها 26
2-5-برآوردیابی به روش لاسو برای پارامترهای مدل رگرسیون خطی با خطاهای خودبازگشتی 28
2-6-خواص نظری برآوردگرهای لاسو 30
2-6-1-خواص برآوردگر لاسو سنتی 31
2-6-2-خواص برآوردگر لاسو اصلاح شده 35
فصل سوم: الگوریتم دستیابی به برآوردگرهای لاسو در مدل رگرسیون خطی با خطای خود بازگشتی
3-1-فرایند تکراری 42
3-2-تحدب موضعی 44
3-3-برآوردگر شروع 45
3-4-پارامترهای تنظیم کننده 45
فصل چهارم: مثالهای کاربردی و شبیه سازی
4-1-مثال شبیه سازی 49