استنباط آماري مدل رگرسيوني با خطاهاي خودبازگشتي به روش لاسو- قسمت 11

الف) ها متغیرهای تصادفی مستقل و هم‌توزیع با میانگین صفر و واریانس می‌باشند.
ب) ریشه‌های چندجمله‌ای‌های و مشترک نبوده و خارج از دایره واحد باشند.
ج) ثابت‌های کراندار می‌باشند و برای ، ، و ثابت وجود دارد و ماتریس معین مثبت می‌باشد.
فرض (ب) تضمین میکند که خطاهای درحالیکه دارای واریانس متناهی می‌باشد، ایستا خواهد بود . علاوه بر این ضرایب معکوس چندجمله‌ایهای (2-4)، سری‌های همگرا را تشکیل می‌دهند، به عنوان مثال اگر
آنگاه .
براساس والکر (1964)[33] پارامترهای که می‌توان برای سادگی به صورت نوشت، پارامترهای ساختاری[34] ‌گویند و یک مجموعه کامل از پارامترهای مدل را به صورت نشان داده می‌شود.
2-3-برآورد کمترین مربعات پارامترها
هدف اصلی در این بخش بدست آوردن برآورد پارامترهای مدل (2-6) از روش کمترین مربعات می‌باشد. فرض کنید که و سری‌هایی باشد که از (2-6) تولید شده باشند. اگر مقادیر واقعی پارامتر معلوم باشد، آن‌گاه متغیر تصادفی را می توان با حل کردن رابطه (2-6) بر حسب به صورت زیر بدست آورد:

(2-7)

همانطور که میدانید مقدار واقعی پارامترها معمولا نامعلوم می‌باشند، اما با این وجود برای هر بردار از مقادیر بطوریکه و در شرط (ب) صدق کنند، می‌توان

(2-8)

را تعریف کرد. یا بهطور معادل (با توجه به جایگذاری (2-2) در (2-3))

(2-9)

وقتیکه همانطور که مشاهده میکنید در (2-8)، خطاهای از طریق عملگر بی نهایت ، دربرگیرنده تمام اطلاعات گذشته سری می‌باشد.
از آنجاییکه مشاهدات ما در زمان‌های گرفته می‌شوند، بنابراین لازم است که مسئله مقادیر شروع فرایند را در نظر بگیریم. در (2-9) نیازمندیم که مقادیر اولیه را مشخص کنیم. یک راه ساده این است که این مقادیر را برابر صفر در نظر بگیریم و یک روش دیگر، استفاده ازروش پیشبینی پسرو[35] باکس و جنکینز[36] (1970) میباشد.
با خطای در (2-9)و مقادیر شروع تقریبی، برآوردهای کمترین مربعات ، مقدار یی است که مجموع مربعات را به عنوان تابعی از می‌نیمم کند. ازآنجاییکه یک تابع خطی از نمی‌باشد‌، این برآوردها را می‌توان در عمل با روش‌های برآوردیابی غیرخطی مطرحشده در هارتلی (1961)[37]، دراپر و اسمیت (1966)[38] و بهطور مشخص برای مدل‌های سری زمانی به باکس و جنکینز(1970) محاسبه نمود.
تا اینجا اشاره‌ای به فرم تابعی توزیع نکرده‌ایم . اگر به صورت نرمال توزیع شده باشند، آنگاه لگاریتم تابع درستنمایی پارامترهای به‌صورت زیر خواهد بود:

حتما بخوانید :   استنباط آماري مدل رگرسيوني با خطاهاي خودبازگشتي به روش لاسو- قسمت 12
(2-10)