استنباط آماري مدل رگرسيوني با خطاهاي خودبازگشتي به روش لاسو- قسمت 14

(2-18)

که در آن ضرایب خودبازگشتی و ها متغیرهای تصادفی مستقل و هم توزیع با میانگین صفر و واریانس می باشد .
پارامترهای رگرسیونی و خودبازگشتی را بصورت تعریف می کنیم. فرض کنید در مدل (2-18)، از توزیع نرمال پیروی کند و مشاهده اول ثابت باشد. تابع درستنمایی شرطی مشاهده باقیمانده به صورت زیر می باشد :
جاییکه اندازه نمونه موثر میباشد.
با ماکزیمم کردن تابع درستنمایی شرطی فوق، برآوردگر ماکزیمم درستنمایی شرطی به دست می آید. این برآوردگر میتواند با مینیمم کردن تابع هدف زیر نیز بدست آید:

(2-19)

برای انقباض دادن ضرایب کم اهمیت به صفر، از روش تیبشیرانی استفاده کرده به طوریکه رابطه بالا را تحت شرایط و مینیمم میکنیم و برآوردگرهای لاسو سنتی را برای بدست میآوریم، یعنی عبارت
(2-20)
را نسبت به و مینیمم می کنیم.
چون روشلاسو سنتی از پارامترهای تنظیم کننده یکسان و بهترتیب برای ضرایب رگرسیونی و خودبازگشتی استفاده می کند، برآوردگر حاصل اریب خواهد بود، زیرا با این روش تمامی ضرایب رگرسیونی (یا خودبازگشتی) سهم یکسانی در انقباض یافتن دارند (فن و لی 2001). لذا برای برطرف کردن این مشکل وانگ و همکاران (2007) برآوردگر لاسو اصلاح شده را با مینیمم کردن عبارت زیر ارائه دادند :
(2-21)
روش لاسو اصلاح شده این اجازه را می دهد که برای ضرایب متفاوت و متناظر با پارامترها ، پارامترهای تنظیم کننده متفاوت و در نظر گرفته شود. بنابراین با این روش انقباض زیادی برای ضرایب کم اهمیت بی معنی و یک مقدار انقباض کم برای ضرایب پر اهمیت معنی دار مدل در نظر گرفته میشود.
از اینرو میتوان انتظار داشت که برآوردگر به دست آمده از روش لاسو اصلاح شده ، اریبی کمتری نسبت به برآوردگر داشته باشد.
2-6-خواص نظری برآوردگرهای لاسو
به منظور مطالعه خواص تئوری دو برآوردگر لاسو معرفی شده در بخش قبل ، فرض می کنیم که یک مدل واقعی با ضرایب رگرسیونی و خود بازگشتی، وجود دارد. همچنین فرض می کنیم که ضریب رگرسیونی غیرصفر و ضریب خودبازگشتی غیر صفر وجود دارند. برای راحتی کار و را به صورت زیر تعریف می کنیم :
و
بنابراین مجموعه های و به ترتیب شامل اندیس هایی از ضرایب معنیدار رگرسیونی و خودبازگشتی هستند، در حالیکه و به ترتیب دربرگیرنده اندیس هایی از ضرایب بیمعنی رگرسیونی و خودبازگشتی می باشند. نشان دهنده یک بردار از ضرایب معنیدار رگرسیونی با برآوردگر لاسو مربوطه می باشد. همچنین ، ، ، و و و را نیز تعریف میکنیم. و برای برآوردگرهای لاسو(سنتی) و اصلاح شده مربوط به آنها می‌باشند. به منظور بررسی خواص نظری و شرایط زیر را در نظر میگیریم :
الف : دنباله از دنباله مستقل باشد.
ب : تمام ریشه های چندجمله ای ، خارج از دایره واحد باشند.
ج :
د : اکیدا ایستا و ارگودیک با گشتاور دوم متناهی باشد (یعنی ). علاوه بر این، ماتریس زیر معین مثبت باشد:
2-6-1-خواص برآوردگر لاسو سنتی
همانند بخش 1-4-1در این بخش قصد داریم خواص برآوردگر لاسو سنتی را مورد مطالعه قرار دهیم .
قضیه 2-1فرض کنید که برای برخی از مقادیر و داشته باشیم: و . تحت شرایط الف-د ذکر شده در بخش 2-6 داریم :
که در آن
و
اثبات :
قرار دهید ، و . سپس تعریف کنید :
حال با توجه به نایت و فو (2000) داریم :
(2-22)
بهعلاوه :

حتما بخوانید :
استنباط آماري مدل رگرسيوني با خطاهاي خودبازگشتي به روش لاسو- قسمت 7