رگرسيون Regression

رگرسيون ضريب همبستگي نشان دهنده ارتباط دو متغير است اما زماني كه بدنبال اثر يك متغير بر متغير ديگر هستيم نمي تواند از آن استفاده كنيم. از طرفي گاهي تخمين تغيير در يك متغير با تغيير متغير ديگر براي ما مهم است كه بازهم ضريب همبستگي نمي تواند تخميني از اين تغييرات ارائه دهد.براي پاسخ به سئوالات فوق بايد به سراغ رگرسيون رفت. در رگرسيون يك متغير كه تاثير پذير(Y) از ساير متغيرهاست متغير پاسخ ( متغير وابسته )ناميده مي شود. متغير يا متغيرهايي كه بر متغير پاسخ اثر مي گزارند (X) متغير توضيحي ( متغير مستقل )ناميده مي شود.

رگرسيون خطي ساده ترين و پركاربردترين نوع رگرسيون است رگرسيون خطي ساده ترين و پركاربردترين نوع رگرسيون است. به اين دليل آنرا ساده گويند چون نمودار آن نشان دهنده يك خط راست است. براي شروع بايد حدسي درباره وجود يك رابطه خطي وجود داشته باشد. نمودار Scatter Plot ايده اي اوليه درباره اين موضوع مي دهد. با ديدن اين نمودار اين ايده به ذهن مي رسد كه با افزايش x متغير y هم افزايش مي يابد و بلعكس. x y

روابط احتمالي هميشه داراي خطا مي باشد كه در اينجا آنرا با ε نمايش مي دهيم.پس مدل رگرسيوني بايد بصورت زير باشد. y =A+Bx+ Random Error x y

A عرض از مبدا و B شيب خط رگرسيوني است. در رگرسيون ايندو را ضرايب رگرسيون نامند و هدف برآورد اين دو پارامتر است. در نمودار زير Yi مقدار متغير Y براي نمونه iام است و اختلاف آن با براورد Yi برابر است با d

بديهي است ضرايب بايد طوري برآورد گردند كه مجموع di هابراي تمام نقاط نمونه مي نيمم مقدار خود را داشته باشد.از طريق مشتق گيري از تابع بر اساس خطاها مي توان به فرمول هاي زير رسيد.

فرض كنيد داده هاي زير بدست آمده باشد. مثال: فرض كنيد هدف تخمين ميزان پرداختي است كه شخصي با درآمد معين براي مواد غذايي مي پردازد. براي پاسخ به اين مساله بايد از چندين خانوار نمونه گيري كنيم.( درآمد به هزار فرض كنيد داده هاي زير بدست آمده باشد. 35 9 49 15 21 7 39 11 15 5 28 8 25 9 Income x Food Expenditure y xy 2 315 1225 735 2401 147 441 429 1521 75 225 224 784 225 625

راه حل دستي

پس از محاسبات مقدار A و B بصورت زير برآورد مي شوند و مدل رگرسيوني براورد شده بصورت زير است. در معادله رگرسيوني B يا شيب خط تفسير كاربردي مهمي دارد. مقدار B مقدار تغييرات Y است به ازاي يك واحد افزايش در X . يعني در مساله فوق اگر در آمد يك واحد افزايش يابد مقدار Y تقريبا 26/0 واحد افزايش ( بدليل مثبت بودن شيب ) مي يابد. همچنين با استفاده از فرمول برآورد مي توان گفت اگر شخصي مثلا در آمدي برابر با 35 داشته باشد ميزان Y تقريبا برابر خواهد بود با 39/10

شرايط پذيرش مدل نكته مهم اينكه همانطور كه در مبحث ضريب همبستگي هم ذكر شد هرگاه برآوردي انجام مي شود بايد آنرا آزمود. اگر آزمون معني داري انجام شد و براورد معني دار از لحاظ آماري شد انگاه از آن استفاده مي كنيم و مي توان با اطمينان آنرا به جامعه تعميم داد.در مورد ضرايب رگرسيون هم به همين صورت است. در رگرسيون فرضيات بنيادي وجود دارد كه اين فرضيات از طريق باقيمانده ها ( خطاها ) قابل آزمون هستند. هيچگاه نبايد بدون چك كردن فرضيات بنيادي از مدل رگرسيوني استفاده نمود. در اينحالت اطلاعات بدست آمده از رگرسيون گمراه كننده است.