رگرسیون خطی ساده و چندگانه
یک متغیر کمّی از روی یک پیش‌بین (رگرسیون ساده) یا چند پیش‌بین با هم (رگرسیون چندگانه، روش Enter) پیش‌بینی می‌شود. خروجی: خلاصه مدل (R²، R² تعدیل‌شده، خطای استاندارد برآورد، Durbin-Watson)، جدول ANOVA، جدول ضرایب (B، β، t، p، فاصله اطمینان، همبستگی‌های مرتبه صفر، جزئی و نیمه‌جزئی، VIF)، تشخیص باقیمانده‌ها و موارد تأثیرگذار، نمودار پراکنش با خط رگرسیون، نمودار باقیمانده‌ها و جمله گزارش به فارسی و انگلیسی.
بارگذاری داده‌ها
ستون‌ها را مستقیماً از کاربرگ بچسبانید (همراه با سطر عنوان) – در اکسل انتخاب کنید، کپی کنید و اینجا بچسبانید:
انتخاب متغیرها
چه زمانی استفاده می‌شود؟
وقتی می‌خواهیم یک متغیر کمّی – نمره، سن، زمان، درآمد – را از روی یک متغیر دیگر (رگرسیون ساده) یا از روی چند متغیر با هم (رگرسیون چندگانه) پیش‌بینی کنیم، و بدانیم چه مقدار از واریانس آن را تبیین می‌کنند و کدام‌یک سهم دارد. Gravetter و Wallnau (2017، ص. 530) آن را ادامه مستقیم همبستگی معرفی می‌کنند: همبستگی می‌گوید رابطه‌ای خطی وجود دارد، و رگرسیون خط راستی را می‌یابد که آن را توصیف می‌کند و امکان پیش‌بینی Y را برای هر مقدار X فراهم می‌کند؛ با دو پیش‌بین یا بیشتر (ص. 544) "می‌توان چند پیش‌بین را ترکیب کرد تا پیش‌بینی دقیق‌تری به دست آید". Pallant (2020، فصل 13) پرسش‌هایی را که رگرسیون چندگانه به آن‌ها پاسخ می‌دهد برمی‌شمارد: مجموعه‌ای از متغیرها چه مقدار واریانس را تبیین می‌کند، کدام‌یک بهترین پیش‌بین است، و آیا یک پیش‌بین وقتی پیش‌بین دیگری کنترل شود همچنان پیش‌بینی می‌کند. Field (2024، بخش 9.2) نشان می‌دهد که این همان "مدل خطی" عام است – همان مدلی که پشت آزمون t و تحلیل واریانس قرار دارد، فقط با پیش‌بین‌های کمّی.
صفحه رگرسیون استاندارد را محاسبه می‌کند – همه پیش‌بین‌ها یک‌باره وارد می‌شوند (روش Enter؛ Pallant، 2020، فصل 13 – "رایج‌ترین"). رگرسیون سلسله‌مراتبی (بلوک‌ها بر اساس نظریه، با R² change)، که Field (بخش 9.9.1) وقتی دانش پیشین وجود دارد ترجیح می‌دهد، در این صفحه نیست؛ رگرسیون گام‌به‌گام (stepwise) – Pallant "اکیداً توصیه می‌کند که نه"، و Field: "آماردانان اخم می‌کنند". تعامل بین پیش‌بین‌ها (تعدیل‌گری) و میانجی‌گری – صفحه تعدیل‌گری و میانجی‌گری؛ متغیر ملاک دووجهی (بله/خیر) – صفحه رگرسیون لجستیک؛ رابطه بین دو متغیر بدون جهت پیش‌بینی – صفحه همبستگی‌ها؛ پیش‌بین‌های طبقه‌ای با سه گروه یا بیشتر – تحلیل واریانس، یا کدگذاری مجازی که در این صفحه نیست. نمره مقیاس چندگویه‌ای (صفحه آلفای کرونباخ و نمره مقیاس) طبق قرارداد سایت به عنوان متغیر فاصله‌ای در نظر گرفته می‌شود (صفحه متغیرها و مقیاس‌های اندازه‌گیری)؛ یک گویه لیکرت منفرد – نه.
منطق: خطی که مجذور خطاها را کمینه می‌کند
معادله رگرسیون Ŷ = bX + a (Gravetter & Wallnau, 2017, Equation 16.5) خط راستی است که از "نزدیک‌ترین" فاصله به همه نقاط می‌گذرد: برای هر آزمودنی فاصله عمودی بین مقدار واقعی او و خط همان خطاست، Y − Ŷ، و خط چنان انتخاب می‌شود که مجموع مجذور خطاها کمترین مقدار ممکن باشد – "روش کمترین مجذورات" (pp. 533-535; Field, 2024, Section 9.2.4). شیب b – اینکه Y به ازای افزایش یک واحد در X چقدر تغییر می‌کند (b = SP/SSX, Equation 16.2)؛ مقدار ثابت a – مقدار پیش‌بینی‌شده وقتی X = 0. در مثال 16.1 از Gravetter و Wallnau (ص. 535؛ هشت زوج) نتیجه Ŷ = 2X − 1 است. با چند پیش‌بین (ص. 545-546): Ŷ = b1X1 + b2X2 + a، و هر b سهم پیش‌بین را وقتی بقیه ثابت‌اند توصیف می‌کند.
خط چقدر خوب است؟ Field (بخش 9.2.4) آن را با مدل "صفر" مقایسه می‌کند: پیش‌بینی میانگین برای همه. پراکندگی حول میانگین (SST) به آنچه خط تبیین می‌کند (SSM، "رگرسیون") و آنچه باقی می‌ماند (SSR، "باقیمانده") تجزیه می‌شود – و R² = SSM/SST بخش تبیین‌شده واریانس است (Equation 9.17; Gravetter & Wallnau, pp. 540-541: r²SSY). هر مجموع مجذورات بر درجه آزادی خود تقسیم می‌شود (k برای مدل، N − k − 1 برای باقیمانده) و F به دست می‌آید، که می‌آزماید آیا مدل از میانگین بهتر است (Field، معادلات 9.19-9.20؛ Gravetter & Wallnau، "تحلیل رگرسیون"، ص. 541-543). با یک پیش‌بین منفرد این دقیقاً آزمون معناداری همبستگی پیرسون است: F = t² (ص. 543). مثال‌های Gravetter و Wallnau در صفحه محاسبه می‌شوند و همان اعداد کتاب را می‌دهند: مثال 16.5 (ص. 542-543) – SSرگرسیون = 112.01, SSباقیمانده = 43.99, F(1, 6) = 15.28؛ مثال 16.6 (ص. 546-551، خروجی SPSS در شکل 16.8) – R² = .557, F(2, 7) = 4.392, p = .058، b برابر با 2.552، .672 و .293.
خروجی را چگونه بخوانیم؟
Pallant (2020، فصل 13) چهار گام پیشنهاد می‌کند – بررسی مفروضه‌ها، ارزیابی مدل، ارزیابی هر پیش‌بین، و استفاده از نتایج – و جدول‌های صفحه بر همین اساس تنظیم شده‌اند (مفروضه‌ها: بخش "مفروضه‌ها، تشخیص و هشدارها" و جدول 4).
جدول 1 – خلاصه مدل (Model Summary). R² – "چه مقدار از واریانس متغیر وابسته را مدل تبیین می‌کند"؛ در مثال Pallant .468، "نتیجه‌ای کاملاً قابل‌احترام". R² تعدیل‌شده – در نمونه کوچک R² "بیش از حد خوش‌بینانه" است، و مقدار تعدیل‌شده آن را برای برآورد در جامعه اصلاح می‌کند (Pallant؛ Field، 2024، بخش 9.2.4 – "انقباض")؛ Field می‌افزاید که این مقدار تعداد پیش‌بین‌ها را اصلاح می‌کند، زیرا هر پیش‌بین اضافی R² را بالا می‌برد حتی وقتی سهمش ناچیز است. R – همبستگی بین مقادیر پیش‌بینی‌شده و مشاهده‌شده (با یک پیش‌بین منفرد: پیرسون بین پیش‌بین و ملاک؛ Field، بخش 9.8.1). خطای استاندارد برآورد – "فاصله استاندارد" بین نقاط و خط، بر حسب واحدهای متغیر ملاک (Gravetter & Wallnau, 2017, pp. 538-539, 548-549): کوچک – پیش‌بینی دقیق. Durbin-Watson – بخش مفروضه‌ها.
جدول 2 – ANOVA. فرض "H0: R چندگانه در جامعه برابر صفر است" را می‌آزماید (Pallant): p کوچک‌تر از .05 – مدل بهتر از میانگین به‌تنهایی پیش‌بینی می‌کند. Field (بخش 9.8.1): "مدل خطی در کل پیش‌بینی معناداری انجام می‌دهد". F معنادار هنوز نمی‌گوید کدام پیش‌بین‌ها سهم دارند.
جدول 3 – ضرایب (Coefficients). Pallant: ستون Sig. مرور می‌شود – پیش‌بینی با p کوچک‌تر از .05 "سهم منحصربه‌فرد معناداری دارد"؛ پیش‌بین غیرمعنادار ممکن است "به دلیل همپوشانی با پیش‌بین‌های دیگر مدل" چنین باشد. B – "متغیر ملاک به ازای افزایش یک واحد در پیش‌بین، در حالی که بقیه ثابت‌اند، چقدر تغییر می‌کند" (Field، بخش 9.11.3 – در مثال فروش آلبوم: هر 1,000 پوند تبلیغات = 85 آلبوم)؛ مقدار ثابت معادله پیش‌بینی را کامل می‌کند. β – ضریب استانداردشده، "تعداد انحراف معیارهایی که متغیر ملاک به ازای هر انحراف معیار پیش‌بین تغییر می‌کند"؛ چون به واحدها وابسته نیست، اهمیت پیش‌بین‌ها را مقایسه می‌کند (Gravetter & Wallnau، ص. 550 – "b بزرگ‌تر به معنای پیش‌بین بهتر نیست"؛ Pallant؛ Field). t و p – H0: b = 0 را می‌آزمایند ("خط افقی"؛ Field، بخش 9.2.5)؛ فاصله اطمینان B که صفر را در بر دارد یعنی مقدار جامعه "ممکن است مثبت اما همچنین منفی باشد" (بخش 9.11.3). سه همبستگی (Zero-order, Partial, Part در SPSS): مرتبه صفر – پیرسون ساده؛ جزئی – با حذف اثر سایر پیش‌بین‌ها از هر دو متغیر؛ نیمه‌جزئی (sr، "Part") – Pallant بر آن تأکید می‌کند: مجذور آن "نشان می‌دهد چه مقدار از واریانس کل به طور منحصربه‌فرد توسط پیش‌بین تبیین می‌شود، و R² بدون آن چقدر کاهش می‌یافت" (در مثال او −.40² = 16% و −.30² = 9%، که با هم 25% و نه 46.8% می‌شوند – بقیه واریانس مشترک است). Gravetter و Wallnau (ص. 550-551) از راه "R² با هر دو پیش‌بین منهای r² با پیش‌بین اول به‌تنهایی" به همان سهم منحصربه‌فرد می‌رسند، و نشان می‌دهند که t پیش‌بین جذر F افزوده است. VIF – بخش مفروضه‌ها.
جدول 4 – تشخیص باقیمانده‌ها و موارد تأثیرگذار و نمودار باقیمانده‌ها – بخش "مفروضه‌ها، تشخیص و هشدارها". کادر "تفسیر نتیجه" خلاصه می‌کند: اندازه اثر، حجم نمونه در برابر قواعد سرانگشتی، سهم‌های منحصربه‌فرد، هم‌خطی چندگانه و تشخیص.
اندازه اثر
R² اندازه اثر کل مدل است – بخش تبیین‌شده واریانس، که Field (2024، بخش 9.2.4) آن را "شاخصی از اندازه واقعی برازش" می‌نامد. معیار: Cohen (1988، ص. 413-414) برای رگرسیون چندگانه f² = .02, .15, .35 را برای اثر کوچک، متوسط و بزرگ تعریف می‌کند، و آن را به R² برابر با .02، .13 و .26 برمی‌گرداند (R برابر با .14، .36 و .51) – آستانه‌هایی "اندکی بالاتر" از آستانه‌های همبستگی منفرد، زیرا مدل معمولاً چند پیش‌بین دارد؛ Field (بخش 9.5) همین سه مقدار را برای محاسبه حجم نمونه به کار می‌برد. Cohen یادآوری می‌کند که آستانه‌ها یک مصالحه‌اند: "کوچک" در روان‌شناسی بالینی ممکن است در جامعه‌شناسی "بزرگ" باشد. برای هر پیش‌بین به طور جداگانه، اندازه اثر β (بر حسب انحراف معیار) و sr² (واریانس منحصربه‌فرد؛ Pallant، 2020، فصل 13) است، و B با فاصله اطمینان آن اندازه اثر بر حسب واحدهای اصلی است – Field (بخش 9.14) می‌خواهد پیش از همه همین گزارش شود. در نمونه بزرگ R² بسیار کوچک هم معنادار می‌شود؛ R² حتی وقتی مدل معنادار نیست گزارش می‌شود.
مفروضه‌ها، تشخیص و هشدارها
انواع متغیرها. Field (2024، بخش 9.4.1): پیش‌بین‌ها کمّی یا طبقه‌ای دووجهی‌اند، و متغیر ملاک "کمّی، پیوسته و نامحدود". متغیر دووجهی (مثلاً جنسیت 1/2، گروه 0/1) به عنوان پیش‌بین وارد می‌شود و B آن تفاوت پیش‌بینی‌شده میانگین‌ها بین گروه‌هاست؛ متغیر طبقه‌ای با سه سطح یا بیشتر عدد نیست – کدگذاری مجازی لازم است (k − 1 متغیر 0/1)، و صفحه هشدار می‌دهد. متغیر ترتیبی (تحصیلات 1-4) در عمل به صورت عدد وارد می‌شود، با این فرض که همه گام‌ها برابرند – رایج است، اما در تفسیر احتیاط می‌طلبد.
حجم نمونه. Pallant (2020، فصل 13) دو قاعده می‌آورد: Stevens – "حدود 15 آزمودنی به ازای هر پیش‌بین"، و Tabachnick و Fidell – N > 50 + 8m (m – تعداد پیش‌بین‌ها؛ پنج پیش‌بین – دست‌کم 90 آزمودنی)، و بیشتر وقتی متغیر ملاک چوله است. Field (بخش 9.5) استدلال می‌کند که قواعد "10 یا 15 به ازای هر پیش‌بین" "تا حد بی‌فایدگی" ساده‌سازی می‌کنند: مقدار لازم به اندازه اثر بستگی دارد – برای اثر بزرگ 77 آزمودنی حتی برای 20 پیش‌بین کافی است، برای اثر متوسط 160 (و با حداکثر شش پیش‌بین حدود 100)، و برای اثر کوچک "بدون صدها آزمودنی زحمتش را نکشید"؛ و R مورد انتظار برای داده‌های تصادفی k/(N − 1) است – شش پیش‌بین روی 21 آزمودنی R = 0.3 را از هیچ می‌دهند. کادر تفسیر هر دو قاعده Pallant را بررسی می‌کند و R تصادفی مورد انتظار را چاپ می‌کند.
هم‌خطی چندگانه. پیش‌بین‌هایی که همبستگی بسیار زیادی با یکدیگر دارند (Pallant: r برابر .7 و بالاتر؛ Field، بخش 9.9.3: .8-.9) "تفکیک سهم منحصربه‌فرد هر یک را برای رگرسیون دشوار می‌کنند"، خطاهای استاندارد را متورم می‌کنند، و ممکن است پیش‌بین‌های مهم را غیرمعنادار کنند. جدول برای هر پیش‌بین VIF را چاپ می‌کند (تحمل = 1/VIF): Pallant و Field – VIF بالای 10 یا تحمل کمتر از .10 "مشکل جدی" است (Bowerman & O'Connell, 1990؛ Myers, 1990)؛ Field می‌افزاید: تحمل کمتر از .2 – "مشکل احتمالی" (Menard, 1995)، و میانگین VIF بسیار بزرگ‌تر از 1 – سوگیری احتمالی. Pallant هشدار می‌دهد که این آستانه‌ها "همچنان همبستگی‌های نسبتاً بالایی را مجاز می‌دانند" و پیشنهاد می‌کند ماتریس همبستگی نیز بررسی شود. نمره مقیاس همراه با گویه‌هایش، یا نمره کل همراه با خرده‌مقیاس‌هایش، "تکینگی" است – صفحه با خطا متوقف می‌شود.
چهار مفروضه درباره باقیمانده‌ها (Pallant، به پیروی از Tabachnick & Fidell؛ Field، بخش 9.4.1، به ترتیب اهمیت): خطی بودن و جمع‌پذیری – رابطه خطی است، و پیش‌بین‌ها با هم جمع می‌شوند؛ نقض آن "مدل را نامعتبر می‌کند" (Field). استقلال باقیمانده‌ها – نقض آن خطاهای استاندارد، فاصله‌های اطمینان و آزمون‌ها را مخدوش می‌کند؛ Durbin-Watson (جدول 1) همبستگی بین باقیمانده‌های مجاور را می‌آزماید: 2 – وجود ندارد؛ "قاعده سرانگشتی بسیار محافظه‌کارانه" – کمتر از 1 یا بیشتر از 3 نگران‌کننده است؛ و فقط وقتی معنا دارد که ترتیب آزمودنی‌ها معنادار باشد (زمان، مکان)، نه در فایلی که ترتیبش تصادفی است. برابری واریانس‌ها (همسانی واریانس) – پراکندگی باقیمانده‌ها در طول مقادیر پیش‌بینی‌شده یکسان است. نرمال بودن باقیمانده‌ها – در نمونه کوچک مهم است؛ در نمونه بزرگ قضیه حد مرکزی آن را پوشش می‌دهد (Field)، و خود پیش‌بین‌ها "لازم نیست نرمال باشند". سه مفروضه آخر در نمودار باقیمانده‌ها بررسی می‌شوند (*ZRESID در برابر *ZPRED، نمودار 2 در خروجی): Pallant – انتظار می‌رود "توزیعی تقریباً مستطیلی، با بیشتر نمره‌ها در مرکز و در امتداد صفر" دیده شود؛ Field (بخش 9.11.7) – "آرایشی تصادفی از نقاط"؛ قیف – ناهمسانی واریانس، کمان – غیرخطی بودن. هیستوگرام و نمودار P-P باقیمانده‌ها، که نرمال بودن از روی آن‌ها بررسی می‌شود، در این صفحه نیستند (در SPSS از طریق سینتکس؛ در صفحه داده‌های پرت و مفروضه‌ها – برای خود متغیرها).
داده‌های پرت و موارد تأثیرگذار (جدول 4). Field (بخش 9.3.1) بین داده پرت – آزمودنی‌ای که مدل آن را بد پیش‌بینی می‌کند – و مورد تأثیرگذار – آزمودنی‌ای که بدون او مدل متفاوت می‌بود – تمایز می‌گذارد (کادر 9.1). باقیمانده‌های استانداردشده (ZRESID، نمره‌های استاندارد خطاها): در نمونه معمولی حدود 5% فراتر از ±1.96 و 1% فراتر از ±2.58؛ بیش از این – "شاید سطح خطای مدل پذیرفتنی نباشد"؛ مقداری فراتر از ±3.29 – "دلیلی برای نگرانی" (Pallant: 3.3، و در نمونه بزرگ "یافتن چند مورد غیرعادی نیست"). در مثال آلبوم‌های Field (بخش 9.11.6؛ 200 آزمودنی): 12 مورد بالای 2 (6%) و 2 مورد بالای 2.5 (1%) – "همان‌طور که انتظار می‌رود". فاصله کوک – اثر بر کل مدل: بالای 1 "ممکن است نگران‌کننده باشد" (Cook & Weisberg, 1982، به نقل از Field، بخش 9.3.2؛ Pallant: در مثال او بیشینه .094). اهرم (leverage) – میانگین (k + 1)/N، و مواردی که بیش از دو برابر آن‌اند بررسی می‌شوند (Hoaglin & Welsch, 1978، به نقل از Field). و چه باید کرد؟ Field (بخش 9.3.3، به پیروی از Belsey و همکاران، 1980): تشخیص برای فهم برازش است، "نه راهی برای توجیه حذف نقاط به منظور دستیابی به تغییر دلخواه در ضرایب"؛ داده پرتی که تأثیرگذار نیست "دلیلی برای نگرانی نیست"، اما بهتر است فهمیده شود چرا برازش نداشته است. Pallant: موردی با فاصله کوک بالای 1 – بررسی شود، "ممکن است لازم باشد حذف آن را در نظر بگیرید". فاصله ماهالانوبیس (Pallant، جدول 13.1 – مقادیر بحرانی بر حسب تعداد پیش‌بین‌ها) و DFBeta (Field) در این صفحه نیستند، اما سینتکس آن‌ها را در فایل ذخیره می‌کند.
مقادیر گمشده. آزمودنی‌ای که در یکی از متغیرهای انتخاب‌شده مقدار ندارد اصلاً وارد نمی‌شود – حذف لیستی (/MISSING LISTWISE)، پیش‌فرض SPSS، که Field (بخش 9.10.5) می‌خواهد حفظ شود، "زیرا حذف زوجی ممکن است به نتایج بی‌معنایی مانند R² منفی یا بزرگ‌تر از 1 بینجامد"؛ Pallant (فصل 13) در پنجره گفتگو Exclude cases pairwise را انتخاب می‌کند، و بنابراین اعداد مثال او ممکن است اندکی با آنچه صفحه روی همان داده‌ها می‌دهد متفاوت باشد. از این رو N در مدل ممکن است از تعداد سطرها کمتر باشد (صفحه اعلام می‌کند). اینکه با داده‌های گمشده چه باید کرد – صفحه مقادیر گمشده.
پیش‌بینی خارج از دامنه. Gravetter و Wallnau (2017، ص. 536): معادله فقط در دامنه مقادیر مشاهده‌شده پیش‌بین معتبر است – "درباره رابطه خارج از دامنه اطلاعاتی وجود ندارد"؛ کادر تفسیر این دامنه را در رگرسیون ساده چاپ می‌کند. علیت. رگرسیون پیش‌بینی را توصیف می‌کند، نه علت را: "پیش‌بین" و "ملاک" نقش‌هایی در مدل‌اند (Field، بخش 9.4.1 – "متغیرهای بیرونی" که اندازه‌گیری نشده‌اند می‌توانند رابطه را تبیین کنند).
آنچه این صفحه محاسبه نمی‌کند. رگرسیون سلسله‌مراتبی و R² change، رگرسیون گام‌به‌گام، کدگذاری مجازی خودکار، تعامل‌ها، فاصله ماهالانوبیس، DFBeta و DFFit، هیستوگرام و P-P باقیمانده‌ها، نمودارهای جزئی (partial plots)، فاصله‌های اطمینان bootstrap و رگرسیون استوار (Field, Section 9.12)، رگرسیون بیزی (بخش 9.13)، اعتبارسنجی متقابل (بخش 9.4.2).
و این کار در SPSS چگونه انجام می‌شود؟
روال کار (Pallant, 2020, Chapter 13; Field, 2024, Sections 9.7 and 9.10): Analyze › Regression › Linear… – متغیر ملاک در Dependent، پیش‌بین‌ها در Independent(s)، Method: Enter؛ Statistics… – Estimates، Confidence intervals، Model fit، Descriptives، Part and partial correlations، Collinearity diagnostics، Durbin-Watson، Casewise diagnostics (Pallant: داده‌های پرت فراتر از 3 انحراف معیار؛ Field آن را به 2 کاهش می‌دهد)؛ Plots… – *ZRESID در Y و *ZPRED در X، و Normal probability plot؛ Save… – Mahalanobis و Cook's؛ Options… – داده‌های گمشده: listwise (Field) یا pairwise (Pallant). سینتکسی که صفحه تولید می‌کند (با پیش‌فرض حذف لیستی):
REGRESSION /MISSING LISTWISE /STATISTICS COEFF OUTS CI(95) R ANOVA COLLIN TOL ZPP /CRITERIA=PIN(.05) POUT(.10) /NOORIGIN /DEPENDENT עמדות_ציון /METHOD=ENTER גיל השכלה מין קבוצה /SCATTERPLOT=(*ZRESID ,*ZPRED) /RESIDUALS DURBIN NORMPROB(ZRESID) /CASEWISE PLOT(ZRESID) OUTLIERS(3) /SAVE MAHAL COOK.
خواندن خروجی. Model Summary = جدول 1 (R, R Square, Adjusted R Square, Std. Error of the Estimate, Durbin-Watson)؛ ANOVA = جدول 2 (Regression, Residual, Total)؛ Coefficients = جدول 3 – B, Std. Error, Beta, t, Sig.، حدود فاصله اطمینان، Correlations: Zero-order, Partial, Part، و Collinearity Statistics: Tolerance, VIF؛ Collinearity Diagnostics (مقادیر ویژه و شاخص‌های وضعیت؛ Field، بخش 9.11.5) – در این صفحه نیست؛ Casewise Diagnostics – آزمودنی‌های دارای |Std. Residual| > 3 (صفحه موارد بالای 1.96 را در یادداشت جدول 4 فهرست می‌کند)؛ Residuals Statistics – کمینه و بیشینه Std. Residual، Cook's Distance و Centered Leverage Value (= اهرم جدول 4 منهای 1/N)؛ نمودار Scatterplot و نمودار Normal P-P Plot در انتهای خروجی. دکمه "دانلود سینتکس SPSS" در خروجی، بارگذاری، دفترچه کدگذاری (اگر راهنمای کدها وجود داشت) و فرمان REGRESSION را روی متغیرهای انتخاب‌شده تولید می‌کند.
و این کار در R چگونه انجام می‌شود؟
در R پایه: lm() مدل را برازش می‌دهد، summary() ضرایب، R²، R² تعدیل‌شده، خطای استاندارد برآورد و F را می‌دهد (جدول‌های 1-3)، confint() فاصله‌های اطمینان را، anova() جدول ANOVA را؛ rstandard() باقیمانده‌های استانداردشده درونی را می‌دهد (اندکی متفاوت از ZRESID در SPSS – در اسکریپت ببینید)، cooks.distance() و hatvalues() فاصله کوک و اهرم را؛ vif() و durbinWatsonTest() از بسته car. β و sr با دست محاسبه می‌شوند. اسکریپت عیناً روی فایل نمونه اجرا شد و مقادیر جدول‌ها را داد (در توضیحات). قاعده سایت برای R: فایل UTF-8، هر سطر توضیح با یک واژه فارسی آغاز می‌شود، و محیط UTF-8 برای نام‌های عبری (در Windows: R 4.2 و بالاتر، یا Sys.setlocale('LC_ALL', 'Hebrew')).
# رگرسیون خطی – پروفسور استت. این فایل با UTF-8 ذخیره شده است؛ هر سطر توضیح با یک واژه فارسی آغاز می‌شود
library(readxl) # خواندن اکسل
library(car) # vif, durbinWatsonTest
# بارگذاری: الگوی استاندارد – سطر = آزمودنی، ستون = متغیر؛ کاربرگ "נתונים"
d <- read_excel("C:/Rdata/DATA_regression_example_heb.xlsx", sheet = "נתונים")
v <- c("עמדות_ציון", "גיל", "השכלה", "מין", "קבוצה")
d <- d[complete.cases(d[, v]), v] # حذف لیستی (113 از 120)
names(d) <- c("y", "age", "edu", "sex", "grp") # نام‌های کوتاه برای فرمول
# جدول‌های 1-3 – مدل، مجذور R، F، ضرایب، فاصله‌های اطمینان
m <- lm(y ~ age + edu + sex + grp, data = d)
summary(m) # R² = .138، R² تعدیل‌شده = .107، خطای استاندارد 0.713، F(4, 108) = 4.337، p = .003؛ B: مقدار ثابت 3.064، سن 0.012 (p = .028)، تحصیلات 0.022، جنسیت 0.197، گروه −0.406 (p = .003)
confint(m) # فاصله‌های اطمینان 95%: سن [0.001, 0.022]، گروه [−0.673, −0.138]
anova(m) # باقیمانده: SS 54.915، df 108، MS 0.509؛ رگرسیون = 3.376 + 0.003 + 0.847 + 4.594 = 8.820 (جدول 2)
# توجه: anova(m) رگرسیون را بر حسب پیش‌بین تجزیه می‌کند (Type I)؛ سطر Regression در SPSS = مجموع چهار سطر پیش‌بین‌ها
# بتای استانداردشده و همبستگی نیمه‌جزئی (sr) – با دست
b <- coef(m)[-1]; sds <- sapply(d[, c("age", "edu", "sex", "grp")], sd)
b * sds / sd(d$y) # β: سن .200، تحصیلات .030، جنسیت .130، گروه −.270
t <- summary(m)$coefficients[-1, "t value"]; r2 <- summary(m)$r.squared; dfe <- df.residual(m)
t * sqrt((1 - r2) / dfe) # sr: سن .199، تحصیلات .030، جنسیت .129، گروه −.268
# هم‌خطی چندگانه و استقلال باقیمانده‌ها
vif(m) # VIF: 1.013, 1.006, 1.012, 1.012 – هم‌خطی چندگانه وجود ندارد
durbinWatsonTest(m) # Durbin-Watson 1.956
# جدول 4 – تشخیص: ZRESID در SPSS = باقیمانده/خطای استاندارد برآورد؛ rstandard() = باقیمانده استانداردشده درونی (تقسیم‌شده بر √(1 − h) نیز)
z <- resid(m) / sigma(m)
c(over196 = sum(abs(z) > 1.96), over258 = sum(abs(z) > 2.58), over329 = sum(abs(z) > 3.29), maxZ = max(abs(z))) # 4 مورد بالای 1.96، 2 مورد بالای 2.58، 0 مورد بالای 3.29؛ بیشینه 3.14
c(maxCook = max(cooks.distance(m)), maxLeverage = max(hatvalues(m)), avgLeverage = mean(hatvalues(m))) # بیشینه فاصله کوک .129؛ بیشینه اهرم .114، میانگین .044 = (k + 1)/N
# نمودار باقیمانده‌ها: ZRESID در برابر ZPRED
plot(scale(fitted(m)), z, xlab = "ZPRED", ylab = "ZRESID"); abline(h = c(0, -1.96, 1.96), lty = c(1, 2, 2))
گزارش نتایج
نوع تحلیل (استاندارد/سلسله‌مراتبی)، N، و سپس مدل گزارش می‌شود – R² (یا تعدیل‌شده)، F با هر دو درجه آزادی، p دقیق – و سپس هر پیش‌بین: B با خطای استاندارد یا فاصله اطمینان، β، p، و به گفته Pallant sr نیز (Pallant, 2020, Chapter 13; Field, 2024, Section 9.14; American Psychological Association [APA], 2020, Section 6.43). مثال APA (بخش 6.43): "High school GPA predicted college mathematics performance, R² = .12, F(1, 148) = 20.18, p < .001, 95% CI [.02, .22]". بند Pallant: "رگرسیون چندگانه سلسله‌مراتبی برای ارزیابی توانایی دو شاخص کنترل در پیش‌بینی استرس پس از کنترل مطلوبیت اجتماعی و سن انجام شد. تحلیل‌های مقدماتی برای اطمینان از عدم نقض مفروضه‌های نرمال بودن، خطی بودن، هم‌خطی چندگانه و همسانی واریانس انجام شد. … واریانس کل تبیین‌شده توسط کل مدل 47% بود، F(4, 421) = 94.78, p < .001. … در مدل نهایی فقط دو شاخص کنترل معنادار بودند، و Mastery مقدار همبستگی نیمه‌جزئی بالاتری (sr = −.36, p < .001) نسبت به PCOISS (sr = −.26, p < .001) داشت." Field (بخش 9.14): با چند پیش‌بین "هیچ چیز به پای جدول خلاصه نمی‌رسد" – B، خطای استاندارد، فاصله اطمینان، p و β برای هر پیش‌بین از جمله مقدار ثابت ("تا خوانندگان بتوانند مدل کامل را بسازند")، و R² زیر جدول؛ APA (2020، جدول‌های 7.15-7.18) جدول‌های نمونه با همین ساختار ارائه می‌کند، بدون فاصله‌های اطمینان، با فاصله‌های اطمینان در پرانتز یا در ستون‌های جداگانه، و برای رگرسیون سلسله‌مراتبی.
قواعد شکل (APA, 2020, Section 6.36): B، F، t و فاصله اطمینان B با صفر پیش از ممیز؛ R²، β، r، sr و p بدون آن (نمی‌توانند از 1 بیشتر شوند)؛ فاصله اطمینان در قالب 95% CI [LL, UL]. جمله‌های گزارش در خروجی به همین شکل ساخته شده‌اند، به فارسی و انگلیسی، با معادله پیش‌بینی در رگرسیون ساده و با پیش‌بین‌های معنادار (به ترتیب اندازه β) در رگرسیون چندگانه.
اشتباهات رایج
تفسیر B به عنوان شاخص اهمیت. B به واحدها وابسته است؛ پیش‌بین‌ها با β یا sr² مقایسه می‌شوند (Gravetter & Wallnau, 2017, p. 550; Pallant, 2020, Chapter 13).
جمع زدن sr² و انتظار رسیدن به R². مجموع از R² کوچک‌تر است – تفاوت همان واریانسی است که پیش‌بین‌ها در آن مشترک‌اند (Pallant: 25% در برابر 46.8%).
پیش‌بین طبقه‌ای چندمقداری به صورت عدد. "تحصیلات 1-4" به صورت عدد گام‌های برابر را مفروض می‌گیرد؛ "منطقه 1-5" به صورت عدد بی‌معناست – کدگذاری مجازی لازم است (Field, 2024, Section 9.4.1).
"مدل معنادار است، پس همه پیش‌بین‌ها مهم‌اند" – یا برعکس. F درباره کل مدل سخن می‌گوید؛ یک پیش‌بین ممکن است فقط به دلیل همپوشانی با پیش‌بین‌های دیگر غیرمعنادار باشد (Pallant; Field, Section 9.9.3).
حذف آزمودنی‌ها برای بهبود p. تشخیص برای بررسی مدل است، نه "راهی برای توجیه حذف" (Belsey و همکاران، 1980، به نقل از Field، بخش 9.3.3).
رگرسیون گام‌به‌گام. از تصادف تأثیر می‌پذیرد و اغلب "تکرارپذیر نیست"؛ Pallant (فصل 13) و Field (بخش 9.9.1) هشدار می‌دهند – پیش‌بین‌ها بر اساس نظریه وارد می‌شوند.
پیش‌بینی خارج از دامنه و سخن گفتن از علیت. معادله در دامنه مشاهده‌شده معتبر است (Gravetter & Wallnau, p. 536)، و "پیش‌بین" به معنای "علت" نیست.
نادیده گرفتن حجم نمونه. شش پیش‌بین روی 21 آزمودنی حتی از نویز هم R = 0.3 می‌دهند (Field, Section 9.5)؛ R² تعدیل‌شده نشان می‌دهد برازش تا چه حد متورم است.
منابع
American Psychological Association. (2020). Publication manual of the American Psychological Association (7th ed.). https://doi.org/10.1037/0000165-000
Cohen, J. (1988). Statistical power analysis for the behavioral sciences (2nd ed.). Lawrence Erlbaum Associates.
Field, A. (2024). Discovering statistics using IBM SPSS statistics (6th ed.). SAGE.
Gravetter, F. J., & Wallnau, L. B. (2017). Statistics for the behavioral sciences (10th ed.). Cengage Learning.
Pallant, J. (2020). SPSS survival manual: A step by step guide to data analysis using IBM SPSS (7th ed.). Routledge.
Tabachnick و Fidell (2013)، Stevens (1996، 2002)، Cook و Weisberg (1982)، Hoaglin و Welsch (1978)، Belsey، Kuh و Welsch (1980)، Bowerman و O'Connell (1990)، Myers (1990)، Menard (1995)، Durbin و Watson (1951)، Miles و Shevlin (2001) و Studenmund و Cassidy (1987) – به نقل از Field (2024) و Pallant (2020). طبق قاعده سایت، در فهرست منابع فقط منابعی می‌آیند که در اصل خوانده شده‌اند. Field (2024) و Pallant (2020) در نسخه دیجیتال با متن روان – ارجاع بر اساس بخش و فصل؛ Gravetter و Wallnau (2017)، Cohen (1988) و APA (2020) – بر اساس صفحه و بخش ویراست چاپی.