یادگیری بدون نظارت: خوشه‌ها، مؤلفه‌ها و عامل‌ها

راهنما

در این صفحه

دو صفحه خواهر – یادگیری ماشین برای پژوهشگر اجتماعی و معیارهای عملکرد و اعتبارسنجی – به یادگیری بانظارت می‌پردازند: متغیر وابسته‌ای هست، مدل یاد می‌گیرد آن را پیش‌بینی کند و آن را روی داده‌هایی که ندیده است اعتبارسنجی می‌کنند. این صفحه به آنچه رخ می‌دهد وقتی متغیر وابسته‌ای در کار نیست می‌پردازد – و پژوهشگر اجتماعی سال‌هاست این کار را می‌کند بی‌آنکه چنین نامی بر آن بگذارد: تحلیل عاملی روی گویه‌های پرسشنامه، تحلیل خوشه‌ای که آزمودنی‌ها را به سنخ‌ها تقسیم می‌کند، تحلیل مؤلفه‌های اصلی که بیست متغیر را به سه متغیر فرومی‌کاهد. در کتاب‌های یادگیری ماشین همه این‌ها یادگیری بدون نظارت (unsupervised learning؛ در فارسی "یادگیری نظارت‌نشده" نیز) نامیده می‌شوند، و این صفحه دو هدف دارد: ترجمه کردن – نشان دادن اینکه خوشه Modeler همان CLUSTER در SPSS است و همان kmeans() در R – و هشدار دادن، زیرا اینجا تنها چیزی که از پژوهشگر در مدل‌سازی پیش‌بین محافظت می‌کند ناپدید می‌شود: معیار. هیچ مجموعه آزمونی نیست که بگوید آیا سه عامل "درست" هستند یا آیا چهار خوشه وجود دارند. ترتیب: چه چیزی یادگیری را "بدون نظارت" می‌کند، و چرا این وضعیتی ناخوشایند است (1)؛ کاهش ابعاد – تحلیل مؤلفه‌های اصلی (2)؛ تمایزی که نرم‌افزار مخدوش می‌کند – مؤلفه‌ها عامل نیستند (3)؛ خوشه‌ها – روش‌ها و آنچه هر یک فرض می‌کند (4)؛ چند خوشه، و آیا اصلاً (5)؛ پس از یافتن خوشه با آن چه می‌کنیم (6)؛ نام همه این‌ها در منوهای SPSS و Modeler (7)؛ و چگونه این کار در R انجام می‌شود (8). منابع، پنج کتاب درسی دو صفحه خواهرند – ژرون (2022، فصل‌های 8-9)، هستی، تیبشیرانی و فریدمن (2009، فصل 14)، بیشاپ (2006، فصل‌های 9 و 12)، ترونگ (2026، فصل‌های 12-13) و گوتیرز (2015، فصل 8) – و در کنار آن‌ها، از سوی روان‌سنجی، مرور رویه تحلیل عاملی در روان‌شناسی (Costello & Osborne, 2005)، و مقاله‌های اصلی سه ملاکی که صفحه توصیه می‌کند: تحلیل موازی (Horn, 1965)، سیلوئت (Rousseeuw, 1987) و آماره شکاف (Tibshirani, Walther & Hastie, 2001)؛ و از سوی SPSS Statistics – فصل‌های تحلیل عاملی در دو کتابی که سایت در صفحه‌های ماشین‌حساب‌ها به آن‌ها استناد می‌کند: فیلد (2024، فصل 18) و پالانت (2020، فصل 15)؛ و از سوی SPSS Modeler – مستندات IBM و کتاب درسی دانشگاهی وندلر و گروتروپ (2021، فصل‌های 6-7). یادداشتی درباره استناد: مانند صفحه‌های خواهر – ژرون، گوتیرز، فیلد و پالانت بر اساس فصل و بخش (نسخه‌ها بدون شماره صفحه‌اند)، بقیه بر اساس صفحه.

1. بدون معلم: چیست، و چرا وضعیتی ناخوشایند است

هستی و همکارانش فصل 14 را با یک تمایز آغاز می‌کنند: یادگیری بانظارت "یادگیری با معلم" است – "شاگرد" برای هر مشاهده پاسخی دارد و معلم تصحیح می‌کند؛ یادگیری بدون نظارت "یادگیری بدون معلم" است – N مشاهده از بردار X داریم، و "هدف این است که ویژگی‌های این توزیع مستقیماً استنباط شود، بدون یاری ناظر یا معلمی که برای هر مشاهده پاسخ‌های درست یا میزان خطا فراهم کند" (Hastie et al., 2009, p. 486). و سپس جمله‌ای که بقیه صفحه از آن نتیجه می‌شود: "در یادگیری بانظارت معیار روشنی برای موفقیت، یا فقدان آن، وجود دارد… در زمینه یادگیری بدون نظارت چنین معیار مستقیمی برای موفقیت وجود ندارد. وارسی اعتبار استنباط‌هایی که از خروجی بیشتر الگوریتم‌ها به دست می‌آید دشوار است. باید به استدلال‌های اکتشافی متوسل شد نه فقط برای توجیه الگوریتم‌ها… بلکه برای داوری درباره کیفیت نتایج نیز. این وضعیت ناخوشایند به تکثیر فراوان روش‌های پیشنهادی انجامیده است، زیرا اثربخشی امری سلیقه‌ای است و نمی‌توان آن را مستقیماً وارسی کرد" (ص. 487). گوتیرز آن را ساده بیان می‌کند: "با یادگیری بدون نظارت هیچ راهی برای وارسی کارتان ندارید، زیرا پاسخ درستی وجود ندارد. به همین دلیل یادگیری بدون نظارت نامیده می‌شود" (Gutierrez, 2015، فصل 8، آغاز). ژرون از یان لکان نقل می‌کند: اگر هوش یک کیک باشد، یادگیری بدون نظارت خود کیک است، یادگیری بانظارت – رویه آن، و یادگیری تقویتی – گیلاس روی آن؛ "اکثریت قاطع داده‌های موجود برچسب ندارند" (Géron, 2022، فصل 9، آغاز).

وقتی y نیست دنبال چه می‌گردیم. هستی و همکارانش بر اساس آنچه روش در توزیع X جست‌وجو می‌کند دسته‌بندی می‌کنند: مؤلفه‌های اصلی، مقیاس‌بندی چندبعدی و مانند آن‌ها "می‌کوشند خمینه‌های کم‌بعدی را درون فضای X شناسایی کنند که نماینده چگالی بالای داده‌ها هستند"، و بنابراین می‌گویند "آیا می‌توان متغیرها را تابع‌هایی از مجموعه کوچک‌تری از متغیرهای 'پنهان' دانست"؛ تحلیل خوشه‌ای "می‌کوشد چندین ناحیه محدب را در فضای X بیابد که مدهای" توزیع را در بر دارند، و بنابراین می‌گوید آیا می‌توان آن را "به‌صورت آمیخته‌ای از چگالی‌های ساده‌تر که نماینده سنخ‌ها یا رده‌های متمایز مشاهدات هستند" نمایش داد (ص. 486). ترونگ همین تقسیم را در یک جدول صورت‌بندی می‌کند: "موضوع تحلیل" در تحلیل مؤلفه‌ها متغیرها هستند، و در تحلیل خوشه‌ای – مشاهدات؛ اولی مؤلفه‌هایی بیرون می‌دهد که خلاصه می‌کنند، دومی گروه‌ها (Truong, 2026, Table 13.1, p. 459). این همان تمایزی است که پژوهشگر اجتماعی از ماتریس خود می‌شناسد: کاستن ستون‌ها (بخش‌های 2-3) یا گروه‌بندی سطرها (بخش‌های 4-6). ژرون دو وظیفه خواهر دیگر می‌افزاید – شناسایی ناهنجاری، "یادگرفتن اینکه داده‌های 'عادی' چه شکلی دارند و سپس استفاده از آن برای شناسایی نمونه‌های ناهنجار"، و برآورد چگالی (فصل 9، آغاز) – و هر دو در بخش 4 به‌عنوان محصول جانبی همان الگوریتم‌ها بازمی‌گردند.

2. کاهش ابعاد: تحلیل مؤلفه‌های اصلی

مسئله‌ای که این روش حل می‌کند نفرین ابعاد است (صفحه یادگیری ماشین، بخش 2): ژرون یادآوری می‌کند که دو نقطه تصادفی در یک مربع واحد به‌طور میانگین 0.52 از هم فاصله دارند، و در مکعبی با یک میلیون بعد – حدود 408؛ "در ابعاد بالا به‌سادگی جای بسیار زیادی هست"، و بنابراین "مجموعه‌داده‌های پرُبعد در معرض این خطرند که بسیار تُنُک باشند" (Géron, 2022, Chapter 8, "The Curse of Dimensionality"). تحلیل مؤلفه‌های اصلی (PCA) داده‌ها را بر فضایی کوچک‌تر تصویر می‌کند. بیشاپ دو تعریف دارد "که به همان الگوریتم می‌انجامند": تصویر متعامد "به‌گونه‌ای که واریانس داده‌های تصویرشده بیشینه شود" (هتلینگ، 1933)، یا به‌طور هم‌ارز – تصویر خطی "که میانگین هزینه تصویر را کمینه می‌کند، که به‌صورت میانگین مجذور فاصله میان نقاط داده و تصویرهایشان تعریف می‌شود" (پیرسون، 1901) (Bishop, 2006, p. 561)؛ به بیان هستی و همکارانش، مؤلفه‌های اصلی "دنباله‌ای از بهترین تقریب‌های خطی داده‌ها را، در همه رتبه‌ها، فراهم می‌کنند" (Hastie et al., 2009, p. 534). ژرون این را با یک تصویر توضیح می‌دهد: از میان محورهای ممکن، PCA "محوری را که بیشترین مقدار واریانس را حفظ می‌کند" برمی‌گزیند، و سپس محور دومی، عمود بر اولی، که بیشترین واریانس باقی‌مانده را حفظ می‌کند، و به همین ترتیب؛ "محور i-ام مؤلفه اصلی i-ام نامیده می‌شود" (Chapter 8, "Preserving the Variance", "Principal Components"). آنچه پس از تصویرکردن در دست داریم جدول نسبت‌های واریانس تبیین‌شده است: در مثال ژرون 76% روی مؤلفه نخست، 15% روی دومی، 9% روی سومی – "و بنابراین معقول است فرض کنیم که مؤلفه سوم احتمالاً اطلاعات اندکی حمل می‌کند" (Chapter 8, "Explained Variance Ratio").

چند مؤلفه. بستگی دارد برای چه: "اگر ابعاد را برای نمایش بصری کاهش می‌دهید، باید آن را به 2 یا 3 کاهش دهید" – وگرنه، ژرون پیشنهاد می‌کند تعداد ابعادی را برگزینید "که جمعشان به بخش به‌قدر کافی بزرگی از واریانس برسد – مثلاً 95%"، یا واریانس تجمعی را به‌صورت تابعی از تعداد ابعاد رسم کنید و دنبال "آرنجی بگردید که در آن واریانس تبیین‌شده دیگر سریع رشد نمی‌کند"؛ و اگر PCA مرحله آماده‌سازی برای یک مدل بانظارت است، "تعداد ابعاد را مانند هر ابرپارامتر دیگری تنظیم کنید" – با اعتبارسنجی متقابل، بر اساس عملکرد مدل پس از آن (Chapter 8, "Choosing the Right Number of Dimensions"). و هشداری که بر همه چیز مقدم است: کاهش ابعاد "واقعاً به از دست رفتن اطلاعات می‌انجامد… بنابراین توصیه می‌کنم پیش از آنکه کاهش ابعاد را در نظر بگیرید، نخست بکوشید سامانه را روی داده‌های اصلی آموزش دهید" (فصل 8، آغاز). دو جزئیات فنی که نرم‌افزار برایتان انجام نمی‌دهد: استانداردسازی – PCA روی متغیرهایی با واحدهای مختلف، PCA روی متغیری است که بزرگ‌ترین واریانس را دارد؛ گوتیرز این را روی داده‌های جرم ایالات متحده نشان می‌دهد، که در آن واریانس حمله‌ها 6,945 و واریانس قتل‌ها 19 است، و دستور می‌دهد: "با این حال، باید scale=TRUE را مشخص کنید" (Gutierrez, 2015, Chapter 8, "Principal Component Analysis")؛ و جهت – علامت بارهای یک مؤلفه دلبخواهی است، و مؤلفه "منفی" یافته نیست. و آنچه به اینجا تعلق ندارد: t-SNE، که ژرون یادآور می‌شود "عمدتاً برای نمایش بصری به کار می‌رود، به‌ویژه برای نمایش خوشه‌های نمونه‌ها در فضای پرُبعد"، و UMAP، برادرش – ابزارهای ترسیم، که فاصله‌ها در تصویرشان فاصله نیستند (Chapter 8, "Other Dimensionality Reduction Techniques"). و جدول بارهای مؤلفه نخست، که شبیه جدول تحلیل عاملی به نظر می‌رسد – بخش 3.

3. PCA تحلیل عاملی نیست – و چرا SPSS باعث می‌شود چنین فکر کنیم

برای پژوهشگر اجتماعی این مهم‌ترین بخش صفحه است. هستی و همکارانش نشان می‌دهند که می‌توان PCA را مدلی از متغیرهای پنهان خواند – هر متغیر مشاهده‌شده ترکیبی خطی از p متغیر ناهمبسته است – "اما این چندان رضایت‌بخش نیست"، زیرا هر چرخش متعامد تجزیه دیگری به دست می‌دهد، "و بنابراین نمی‌توان متغیرهای پنهان خاصی را به‌عنوان منابع بنیادین یگانه شناسایی کرد". "مدل کلاسیک تحلیل عاملی، که عمدتاً پژوهشگران روان‌سنجی آن را پرورانده‌اند، این مشکلات را تا اندازه‌ای کاهش می‌دهد": q < p عامل پنهان، ماتریس بارها، و "اختلال‌های" ε ناهمبسته – "ایده این است که متغیرهای پنهان منابع مشترک تغییر میان متغیرهای مشاهده‌شده‌اند و ساختار همبستگی میان آن‌ها را تبیین می‌کنند، در حالی که اختلال‌های ناهمبسته مختص هر متغیرند و تغییر باقی‌مانده را جذب می‌کنند" (Hastie et al., 2009, pp. 558-559). کل تفاوت همین است، و بیشاپ آن را در یک جمله صورت‌بندی می‌کند: تحلیل عاملی PCA احتمالاتی‌ای است که در آن نوفه اندازه‌گیری هر متغیر متفاوت است – "مدل ساختار کوواریانس مشاهده‌شده داده‌ها را با نمایش واریانس مستقلِ مرتبط با هر مختصه در ماتریس Ψ و گرفتن کوواریانس میان متغیرها در ماتریس W تبیین می‌کند"؛ ستون‌های W "بارهای عاملی" هستند، و عناصر قطر Ψ – "یکتایی‌ها" (uniquenesses) (Bishop, 2006, pp. 583-584). و پیامد آن: "تحلیل عاملی ساختار همبستگی متغیرها را مدل می‌کند و نه ساختار کوواریانس را. این تمایزی مهم میان تحلیل عاملی و PCA است" (Hastie et al., 2009, p. 560). PCA همه واریانس گویه‌ها را تبیین می‌کند – همان گویه‌هایی که پژوهشگر با آلفای کرونباخ می‌سنجد – از جمله خطای اندازه‌گیری هر گویه؛ تحلیل عاملی فقط آنچه را گویه‌ها در آن شریک‌اند تبیین می‌کند. جامعه‌ای که با پرسشنامه‌ها زندگی می‌کند از سوی دیگر به همین نتیجه رسید: "PCA روش واقعی تحلیل عاملی نیست، و میان نظریه‌پردازان آماری درباره اینکه چه زمانی، اگر اصلاً، باید از آن استفاده کرد اختلاف هست"؛ "تحلیل مؤلفه‌ها صرفاً روشی برای کاهش داده‌هاست"؛ "تحلیل مؤلفه‌های اصلی میان واریانس مشترک و واریانس اختصاصی تمایز نمی‌گذارد" – و با این حال "PCA روش استخراج پیش‌فرض در بسیاری از بسته‌های آماری پرطرفدار، از جمله SPSS و SAS، است" (Costello & Osborne, 2005, p. 2). کسی که در SPSS روی Analyze، Dimension Reduction، Factor کلیک می‌کند و به چیزی دست نمی‌زند – مؤلفه دریافت می‌کند، آن‌ها را عامل می‌نامد و "تحلیل عاملی" گزارش می‌کند. Modeler نیز: گره PCA/Factor نامیده می‌شود، و "مراحل PCA را از پیش تعریف می‌کند… که فرایند را آسان‌تر می‌کند اما میزان کنترل ما را نیز کاهش می‌دهد" (Truong, 2026, p. 442). و پالانت، که کتابش راهی است که بیشتر پژوهشگران در اسرائیل SPSS را با آن آموخته‌اند، این را صادقانه می‌گوید: در PCA "همه واریانس متغیرها به کار می‌رود"، در تحلیل عاملی "فقط واریانس مشترک تحلیل می‌شود"؛ "اگرچه PCA از نظر فنی مؤلفه تولید می‌کند، بسیاری از نویسندگان اصطلاح 'عامل' را برای خروجی PCA و FA هر دو به کار می‌برند. اگر هنگام خواندن مقاله‌ها اصطلاح 'عامل' را دیدید، فرض نکنید که نویسنده از FA استفاده کرده است" – و خود او PCA را برای نمونه برمی‌گزیند، و قاعده تاباکنیک و فیدل را می‌آورد: "اگر به راه‌حلی نظری علاقه دارید که به واریانس اختصاصی و واریانس خطا آلوده نباشد… FA انتخاب شماست. اما اگر صرفاً خلاصه‌ای تجربی از مجموعه‌داده‌ها می‌خواهید، PCA انتخاب بهتری است" (Tabachnick & Fidell, 2013، ص. 640، به نقل از Pallant, 2020، فصل 15، آغاز). کل قاعده در یک جمله: مقیاسی که یک سازه را می‌سنجد – FA؛ کاهش متغیرها پیش از رگرسیون – PCA. و فیلد توضیح می‌دهد چرا چنین است، از راه اشتراک‌ها: برای استخراج عامل‌ها باید دانست چه مقدار از واریانس مشترک است، و این را فقط پس از استخراج می‌دانیم؛ "دو راه‌حل وجود دارد. نخست اینکه فرض کنیم همه واریانس مشترک است، با این فرض که اشتراک هر متغیر 1 است… این روش PCA است" – و بنابراین "PCA فرض می‌کند که خطای اندازه‌گیری وجود ندارد"، و "این واقعیت که PCA فرض می‌کند خطای اندازه‌گیری وجود ندارد بسیاری از کسانی را که از تحلیل عاملی استفاده می‌کنند آزرده می‌کند" (Field, 2024, Sections 18.4.2, 18.3.2). او کلیف را می‌آورد: هواداران تحلیل عاملی "اصرار دارند که تحلیل مؤلفه‌ها در بهترین حالت تحلیل عامل‌های مشترک است با اندکی خطای افزوده، و در بدترین حالت معجونی شناسایی‌ناپذیر از چیزهایی که از آن هیچ نمی‌توان تعیین کرد" – و اعتراف می‌کند: "برخی استدلال می‌کنند که وقتی از PCA استفاده می‌شود نباید آن را تحلیل عاملی توصیف کرد (اوه!)" (بخش 18.4.3). و سوی دیگر را: بنا بر مرور گوادانیولی و ولیسر "راه‌حل‌های PCA اندکی با راه‌حل‌های فنون تحلیل عاملی تفاوت دارند" – با 30 متغیر یا بیشتر و اشتراک‌های بالای .7 "راه‌حل‌های متفاوت محتمل نیستند"، اما "با کمتر از 20 متغیر و برخی اشتراک‌های پایین (زیر .4) ممکن است تفاوت‌هایی پدید آید" (همان) – و این دقیقاً حالت پرسشنامه‌ای کوتاه با گویه‌های ضعیف است. دو کتاب SPSS در عمل هر دو انتخاب را نشان می‌دهند: پالانت – PCA؛ فیلد، در ویراست ششم – principal axis factoring (بخش 18.6.1). و در کتاب درسی Modeler همین تمایز، به بیان باکهاوس: عامل‌های تحلیل عاملی را "می‌توان 'علت واریانس مشترک' تفسیر کرد"، در حالی که مؤلفه‌های PCA را "می‌توان 'توصیف کلی [نه علت!] واریانس مشترک' دانست" – و "PCA بسیار بیشتر از PFA به کار می‌رود" (Wendler & Gröttrup, 2021, pp. 549, 552).

هم این و هم آن. سوی دیگر از همان صفحه هستی و همکارانش می‌آید: چون در مدل عاملی نیز هر چرخش بارها راه‌حلی هم‌ارز به دست می‌دهد، "در استفاده از تحلیل عاملی اندکی ذهنیت باقی می‌ماند، زیرا کاربر می‌تواند به دنبال نسخه‌های چرخش‌یافته‌ای از عامل‌ها بگردد که تفسیرشان آسان‌تر است. این جنبه بسیاری از تحلیلگران را به تحلیل عاملی بدبین کرده است، و شاید عدم محبوبیت آن را در آمار معاصر توضیح دهد" (ص. 560). روان‌سنجی پاسخ می‌دهد که چرخش دقیقاً همان ابزار است: عامل‌های پنهان را ریاضیات تعریف نمی‌کند بلکه تفسیر، و چرخش به دنبال "ساختار ساده"‌ای می‌گردد که بتوان آن را خواند. هر دو خوانش درست‌اند، و نتیجه عملی یکی است: گزارش کنید کدام مدل (مؤلفه‌ها یا عامل‌ها)، کدام چرخش، و چرا. و درباره خود چرخش: اگر عامل‌ها همبسته‌اند – و سازه‌های روان‌شناختی تقریباً همیشه همبسته‌اند – چرخش مایل (oblimin، promax) "از نظر نظری باید راه‌حل دقیق‌تری به دست دهد، و شاید تکرارپذیرتر نیز باشد"؛ و "اگر عامل‌ها واقعاً ناهمبسته باشند، چرخش متعامد و مایل نتایج تقریباً یکسانی به دست می‌دهند" (Costello & Osborne, 2005, p. 4) – یعنی با چرخش مایل چیزی از دست نمی‌رود؛ و پالانت: "من همیشه توصیه می‌کنم با چرخش مایل شروع کنید تا میزان همبستگی میان عامل‌ها را بررسی کنید" (Pallant, 2020, Chapter 15, "Step 3: Rotate and interpret the factors"). Varimax به‌عنوان پیش‌فرض یک فرض است، نه یک انتخاب. و پیش از همه – آیا اصلاً چیزی برای استخراج هست: پالانت همبستگی‌های .3 و بالاتر در ماتریس، شاخص KMO دست‌کم .6 و آزمون بارتلت معنادار را لازم می‌داند (ibid., "Step 1") – هر سه در خروجی SPSS، و هر سه فقط بررسی می‌کنند که ساختاری مشترک هست، نه کدام ساختار.

چند عامل – قاعده پیش‌فرض بدترین است. SPSS و Modeler هر عاملی را که مقدار ویژه‌اش بزرگ‌تر از 1 باشد نگه می‌دارند (کایزر). "در ادبیات توافق گسترده‌ای هست که این از کم‌دقت‌ترین روش‌ها برای انتخاب تعداد عامل‌هاست"؛ در شبیه‌سازی‌های کاستلو و آزبرن "36% از نمونه‌های ما بر اساس این ملاک عامل‌های بیش از حد نگه داشتند" (ص. 2-3). ترونگ این را در زمان واقعی تجربه می‌کند: Modeler برای او پنج مؤلفه استخراج کرد "بر پایه این شرط که مقادیر ویژه بزرگ‌تر از 1 باشند"، و او می‌پرسد "آیا این بهترین تصمیم است؟"، درمی‌یابد که "SPSS Modeler نمودار scree را در خروجی گره PCA/Factor ارائه نمی‌کند"، یکی را در اکسل رسم می‌کند – و اعتراف می‌کند که "شناسایی آرنج دقیق در این نمودار تا حدی چالش‌برانگیز است" (Truong, 2026, pp. 445-446). این نقص نمودار scree است: داوری با چشم است. قاعده‌ای که این صفحه توصیه می‌کند تحلیل موازی است (parallel analysis; Horn, 1965): داده‌های تصادفی هم‌اندازه شبیه‌سازی می‌شوند – همان N، همان تعداد گویه – مقادیر ویژه آن‌ها محاسبه می‌شود، و فقط عامل‌هایی نگه داشته می‌شوند که مقدار ویژه‌شان بزرگ‌تر از چیزی است که نوفه به دست می‌دهد. این دقیقاً منطق مجموعه آزمون در صفحه‌های خواهر است، اعمال‌شده بر تنها پرسشی که ممکن است: نه "آیا عامل درست است" بلکه "آیا بیش از نوفه است". پالانت ادبیات را جمع‌بندی می‌کند: تحلیل موازی "دقیق‌ترین روش شناخته شده است، در حالی که هم ملاک کایزر و هم آزمون scree کتل به بیش‌برآورد تعداد مؤلفه‌ها گرایش دارند"، و "اگر قصد انتشار دارید… در روان‌شناسی یا آموزش، باید از نتایج تحلیل موازی استفاده کنید و آن‌ها را گزارش دهید" (Pallant, 2020, Chapter 15, "Parallel analysis"). در Modeler وضع بدتر است: وندلر و گروتروپ شاخص‌های مناسب بودن ماتریس را برمی‌شمارند – بارتلت، ماتریس معکوس، ماتریس ضدتصویر، KMO – و جمع‌بندی می‌کنند: "متأسفانه SPSS Modeler این شاخص را ارائه نمی‌کند و هیچ‌یک از آماره‌ها یا شاخص‌های دیگری را که در بالا شرح داده شد نیز"؛ در مقابل، قاعده کایزر "در SPSS Modeler پیاده‌سازی و اعمال شده است"، و نمودار scree – "SPSS Modeler، متأسفانه، نه" (Wendler & Gröttrup, 2021, pp. 551-552). مثال پالانت گواه است: 20 گویه PANAS روی 435 پاسخ‌گو – کایزر چهار مؤلفه نگه می‌دارد (مقادیر ویژه 6.25، 3.40، 1.22، 1.16)، scree پس از دومی شکست نشان می‌دهد، و تحلیل موازی، با مقادیر ملاک 1.40، 1.33، 1.27 و 1.22 از 100 مجموعه‌داده تصادفی، دو عامل نگه می‌دارد – دقیقاً همان دو عاملی که مقیاس بر آن‌ها ساخته شده است (همان، "Interpretation of Output from Factor Analysis: Part 1"، گام‌های 2-4). پیش‌فرض SPSS دو عامل اشتباه کرد. فیلد می‌افزاید که کایزر با این حال چه زمانی دقیق است: "وقتی تعداد متغیرها کمتر از 30 است و اشتراک‌های به‌دست‌آمده (پس از استخراج) همگی بزرگ‌تر از .7 هستند؛ همچنین می‌تواند وقتی حجم نمونه از 250 بیشتر است و میانگین اشتراک .6 یا بیشتر است دقیق باشد" (Field, 2024, Section 18.4.5) – و شبیه‌سازی آورسوالد و موشاگن (2019) را جمع‌بندی می‌کند: "اگر عامل‌هایتان بسیار همبسته باشند، همه روش‌ها بد خواهند بود"؛ "با هشت گویه یا بیشتر و نمونه 200+، تحلیل موازی… کار نسبتاً آبرومندی انجام خواهد داد"؛ و تنها باری که کایزر برتر است "وقتی است که تعداد کمی گویه (مثلاً چهار) و عامل‌های همبسته دارید، و حتی آن هم فقط در نمونه‌های بزرگ و با روش PCA" (همان). در R تحلیل موازی یک سطر است (fa.parallel, Section 8)؛ در منوهای SPSS وجود ندارد، و دو کتاب این را به راه‌های مختلف دور می‌زنند – پالانت به برنامه کوچک جداگانه‌ای ارجاع می‌دهد، Monte Carlo PCA for Parallel Analysis ساخته واتکینز، از وب‌سایت کتاب، که مقادیر ویژه تصادفی را چاپ می‌کند و مقایسه دستی انجام می‌شود (همان، گام 4)؛ فیلد psych در R را از درون سینتکس SPSS اجرا می‌کند (BEGIN PROGRAM R، فایل آماده در وب‌سایت کتاب؛ Field, 2024، SPSS Tip 18.1) – که در واقع همان سطر R بخش 8 است. و سرانجام، N: تحلیل عاملی "روشی 'با نمونه بزرگ' است"؛ در شبیه‌سازی کاستلو و آزبرن، با نسبت دو آزمودنی به ازای هر گویه فقط 10% از نمونه‌ها ساختار واقعی را بازتولید کردند، با نسبت 20:1 – 70% (ص. 4-7). پالانت، به پیروی از تاباکنیک و فیدل، به 150 آزمودنی و نسبت 5:1 بسنده می‌کند، و 10:1 نانلی (1978) را نیز می‌آورد (Pallant, 2020, Chapter 15, "Step 1"). و فیلد خود نسبت را زیر سؤال می‌برد: درباره 10-15 به ازای هر گویه "این قاعده را در موقعیت‌های بسیاری شنیده‌ام، اما پایه تجربی آن روشن نیست"؛ "آنچه مهم است حجم کل نمونه، بارهای عاملی و اشتراک‌هاست" – کامری و لی 100 را نمونه‌ای ضعیف، 300 را خوب و 1,000 را عالی رده‌بندی می‌کنند؛ عاملی با چهار بار یا بیشتر بالای .6 "صرف‌نظر از حجم نمونه پایاست"؛ و وقتی اشتراک‌ها پایین‌اند (بسیار زیر .5) و عامل‌ها زیادند، بالای 500؛ "آنچه از این کار روشن است این است که نمونه 300 یا بیشتر احتمالاً راه‌حل عاملی پایداری فراهم خواهد کرد" (Field, 2024, Section 18.5.3). خوانش تلفیقی: نسبت‌ها قاعده‌های سرانگشتی‌اند، عددی که در همه منابع تکرار می‌شود 300 است – و آنچه پایین‌تر رفتن از آن را ممکن می‌کند گویه‌های قوی است، نه آزمودنی‌های اندک. پرسشنامه‌ای با 30 گویه روی 90 آزمودنی عامل به دست خواهد داد؛ آن عامل‌ها در نمونه بعدی تکرار نخواهند شد.

4. خوشه‌ها: روش‌ها و آنچه هر یک فرض می‌کند

"تحلیل خوشه‌ای، که بخش‌بندی داده‌ها نیز نامیده می‌شود… تماماً به گروه‌بندی یا بخش‌بندی مجموعه‌ای از اشیا به زیرمجموعه‌ها یا 'خوشه‌ها' مربوط است، به‌گونه‌ای که آن‌هایی که درون هر خوشه‌اند بیش از اشیایی که به خوشه‌های مختلف تخصیص یافته‌اند با یکدیگر مرتبط باشند" (Hastie et al., 2009, p. 501). ژرون: "این وظیفه شناسایی نمونه‌های مشابه و تخصیص آن‌ها به خوشه‌هاست"؛ "درست مانند طبقه‌بندی، هر نمونه به یک گروه تخصیص می‌یابد. اما برخلاف طبقه‌بندی، خوشه‌بندی وظیفه‌ای بدون نظارت است" (Géron, 2022, Chapter 9, "Clustering Algorithms"). و واژه‌ای که همه چیز به آن بسته است "مشابه" است: گوتیرز چهار پرسش برمی‌شمارد – "نزدیک" را چگونه تعریف می‌کنیم، چگونه گروه‌بندی می‌کنیم، چگونه نمایش می‌دهیم، و "گروه‌بندی‌ها را چگونه تفسیر می‌کنیم… که شاید باورکردنشان دشوار باشد یا صرفاً به دلیل نوفه پدید آمده باشند" – و حکم می‌کند که "تعریف نزدیکی مهم‌ترین گام در یک الگوریتم گروه‌بندی است" (Gutierrez, 2015, Chapter 8, "Clustering"). فاصله – اقلیدسی، منهتن، کسینوسی برای متن‌ها، ژاکار برای فهرست‌ها – تصمیم پژوهشگر است، نه الگوریتم، و ترونگ گام سوم از هشت گام تحلیل خود را به آن اختصاص می‌دهد (Truong, 2026, p. 462). و پیش از آن، مانند PCA، استانداردسازی: "مهم است که ویژگی‌های ورودی را… پیش از اجرای k-میانگین استاندارد کنید، وگرنه خوشه‌ها ممکن است بسیار کشیده شوند و k-میانگین عملکرد ضعیفی داشته باشد" (Géron, 2022, Chapter 9, "Limits of k-means").

k-میانگین (k-means) نقطه شروع است، و ژرون ایده را با دو تقارن توضیح می‌دهد: اگر مراکز خوشه‌ها را می‌دانستیم، هر مشاهده را به نزدیک‌ترین مرکز تخصیص می‌دادیم؛ اگر تخصیص‌ها را می‌دانستیم، هر مرکز را به‌صورت میانگین محاسبه می‌کردیم؛ نه این را داریم و نه آن را – "با جای‌گذاری تصادفی مراکز شروع می‌کنیم… سپس نمونه‌ها را برچسب می‌زنیم، مراکز را به‌روز می‌کنیم، برچسب می‌زنیم، به‌روز می‌کنیم، و به همین ترتیب تا مراکز دیگر حرکت نکنند" (Chapter 9, "The k-means algorithm"). بیشاپ نشان می‌دهد که این دو گام همان گام‌های E و M الگوریتم EM هستند (Bishop, 2006, pp. 424-425). دو دام: الگوریتم "تضمین شده است که همگرا شود، اما نه لزوماً به راه‌حل درست" – به مقداردهی اولیه بستگی دارد، و بنابراین چند بار از نقاط شروع مختلف اجرا می‌شود و راه‌حلی با کمترین اینرسی نگه داشته می‌شود، یعنی مجموع مجذور فاصله‌ها از مراکز (ژرون، فصل 9، "Centroid initialization methods"؛ در R – nstart، گوتیرز، فصل 8، "K-Means Clustering"؛ و مقداردهی اولیه k-means++ مراکز را از پیش پراکنده می‌کند)؛ و "k-میانگین وقتی خوشه‌ها اندازه‌های متفاوت، چگالی‌های متفاوت یا شکل‌های غیرکروی دارند عملکرد خوبی ندارد" – در مثال ژرون، الگوریتم یک‌چهارم از یک خوشه بیضوی را جدا کرده و به همسایه‌اش می‌چسباند، "هرچند اینرسی آن کمتر است" (Chapter 9, "Limits of k-means"). و بی‌صداترین فرض: هر مشاهده به یک خوشه تعلق دارد. بیشاپ: "ممکن است نقاط داده‌ای باشند که تقریباً در میانه راه میان مراکز خوشه‌ها قرار دارند. در چنین حالتی روشن نیست که تخصیص سخت به نزدیک‌ترین خوشه مناسب‌ترین باشد" (ص. 428) – و جایگزین، آمیخته گاوسی است (Gaussian mixture): هر خوشه توزیع نرمال چندمتغیره خودش است، "با شکل بیضوی، اندازه، چگالی و جهت‌گیری متفاوت"، و مدل به هر مشاهده احتمالی برای تعلق به هر خوشه می‌دهد – "تخصیص نرم، بر پایه احتمال‌های پسین" (Bishop, 2006, p. 443; Géron, 2022, Chapter 9, "Gaussian Mixtures"). k-میانگین حد این مدل است وقتی واریانس همه خوشه‌ها یکسان باشد و به صفر میل کند (Bishop, p. 443). برای پژوهشگر: اگر آزمودنی‌هایی "میان" سنخ‌ها هستند – و همیشه هستند – احتمال تعلق یافته است، نه برچسب.

خوشه‌بندی سلسله‌مراتبی (hierarchical clustering) به k از پیش نیاز ندارد: "در عوض، از کاربر می‌خواهد سنجه‌ای از ناهمانندی میان گروه‌های (مجزای) مشاهدات مشخص کند" – و سپس، در رویکرد تجمیعی، از هر مشاهده به‌عنوان یک خوشه شروع می‌شود و در هر گام دو خوشه نزدیک‌تر ادغام می‌شوند، تا یک خوشه واحد؛ نتیجه دندروگرام است، درختی که ارتفاع هر گره در آن ناهمانندی میان دو فرزند آن است، و برش افقی آن یک افراز به دست می‌دهد (Hastie et al., 2009, pp. 520-521). اینکه "نزدیک" میان گروه‌ها چیست – پیوند: منفرد، کامل، میانگین، یا وارد (کمینه‌سازی واریانس درون خوشه‌ها) – درخت را تغییر می‌دهد. و هشدار هستی و همکارانش، که سزاوار نقل کامل است: "چنین دندروگرامی اغلب خلاصه‌ای گرافیکی از خود داده‌ها تلقی می‌شود، و نه توصیفی از نتایج الگوریتم. اما با چنین تفسیرهایی باید با احتیاط رفتار کرد. نخست، روش‌های سلسله‌مراتبی مختلف…، و نیز تغییرات کوچک در داده‌ها، می‌توانند به دندروگرام‌های کاملاً متفاوتی بینجامند. همچنین، چنین خلاصه‌ای فقط تا آنجا معتبر خواهد بود که ناهمانندی‌های جفتی میان مشاهدات واقعاً دارای ساختار سلسله‌مراتبی‌ای باشند که الگوریتم تولید می‌کند. روش‌های سلسله‌مراتبی ساختاری سلسله‌مراتبی تحمیل می‌کنند، خواه چنین ساختاری واقعاً در داده‌ها وجود داشته باشد یا نه" (ص. 521-522). DBSCAN خوشه‌ها را "به‌صورت نواحی پیوسته با چگالی بالا" تعریف می‌کند: مشاهده‌ای با همسایگان کافی در شعاع ε "هسته" است، همسایگان هسته‌ها به خوشه می‌پیوندند، و آنچه هسته نیست و هسته‌ای در همسایگی ندارد "ناهنجار تلقی می‌شود" – و این روش "اگر همه خوشه‌ها به‌خوبی با نواحی کم‌چگال از هم جدا شده باشند خوب کار می‌کند" (Géron, 2022, Chapter 9, "DBSCAN")؛ k نیست، ε هست، و ناهنجارها به‌عنوان محصول جانبی. و TwoStep در SPSS و Modeler: یک گذر بر داده‌ها که آن‌ها را به زیرخوشه‌ها فشرده می‌کند، و سپس خوشه‌بندی سلسله‌مراتبی روی آن‌ها – برای داده‌های بزرگ طراحی شده، و با "تعیین خودکار تعداد خوشه‌ها بر پایه ملاک‌های آماری" (Truong, 2026, pp. 470, 473) – که همان BIC است، یعنی بخش 5.

5. چند خوشه – و آیا اصلاً

هستی و همکارانش میان دو وضعیت تمایز می‌گذارند. وقتی هدف بخش‌بندی است، "k معمولاً به‌عنوان بخشی از مسئله تعریف می‌شود" – شرکتی با k فروشنده مشتریان را به k بخش تقسیم می‌کند؛ "اما اغلب تحلیل خوشه‌ای به‌عنوان آماره‌ای توصیفی برای روشن کردن میزانی که مشاهدات… در گروه‌های طبیعی متمایز قرار می‌گیرند به کار می‌رود. در اینجا تعداد گروه‌ها k* نامعلوم است" و باید از داده‌ها برآورد شود (Hastie et al., 2009, p. 518). و مشکل: ناهمانندی درون خوشه‌ها، W_k، "عموماً با افزایش k کاهش می‌یابد. این حتی وقتی ملاک روی یک مجموعه آزمون مستقل ارزیابی شود نیز صادق است، زیرا تعداد زیادی مرکز خوشه گرایش دارد فضای ویژگی‌ها را به‌طور متراکم پر کند و بنابراین به همه نقاط داده نزدیک باشد. از این رو فنون اعتبارسنجی متقابل، که برای انتخاب مدل در یادگیری بانظارت بسیار سودمندند، در این زمینه به کار نمی‌آیند" (ص. 519). به همین دلیل اینجا "معیار عملکرد" نیست: هرچه می‌ماند روش‌های اکتشافی است، و صفحه سه روش را، به ترتیب صعودی اعتبار، توصیه می‌کند.

آرنج. ژرون: اینرسی برای k=3 برابر 653 است، برای k=5 – 212، برای k=8 – 119؛ "اینرسی معیار عملکرد خوبی برای انتخاب k نیست، زیرا با افزایش k پیوسته کاهش می‌یابد". آن را به‌صورت تابعی از k رسم می‌کنند و دنبال "نقطه عطفی که آرنج نامیده می‌شود" می‌گردند – "این فن… نسبتاً خام است" (Géron, 2022, Chapter 9, "Finding the optimal number of clusters")؛ نزد هستی و همکارانش این همان "شکستگی" در W_k است، "و مانند دیگر جنبه‌های روش‌های خوشه‌بندی، این رویکرد تا حدی اکتشافی است" (ص. 519). سیلوئت (silhouette; Rousseeuw, 1987): برای هر مشاهده، (b − a) / max(a, b)، که در آن a میانگین فاصله تا اعضای خوشه خودش و b میانگین فاصله تا نزدیک‌ترین خوشه بعدی است؛ "ضریب نزدیک به +1 یعنی نمونه به‌خوبی درون خوشه خودش قرار دارد و از دیگران دور است… نزدیک به 0 – یعنی به مرز نزدیک است… و نزدیک به −1 – یعنی شاید به خوشه نادرست تخصیص یافته است"؛ نمره سیلوئت میانگین روی همه مشاهدات است، و نمودار سیلوئت – "شکل چاقو" برای هر خوشه – خوشه‌هایی را هم نشان می‌دهد که بیشتر اعضایشان زیر میانگین‌اند (فصل 9، همان). در مثال ژرون سیلوئت k=4 را تأیید می‌کند اما نشان می‌دهد که k=5 "نیز بسیار خوب است، و بسیار بهتر از 6 یا 7. این در مقایسه اینرسی‌ها دیده نمی‌شد" – و او 5 را برمی‌گزیند، برای خوشه‌هایی با اندازه‌های مشابه: سیلوئت کمک می‌کند، داوری باقی می‌ماند. آماره شکاف (gap statistic; Tibshirani, Walther & Hastie, 2001) تنها روش از این سه است که به "و آیا اصلاً" نیز پاسخ می‌دهد: "منحنی log W_k را با منحنی‌ای که از داده‌های یکنواخت پراکنده روی مستطیلی دربرگیرنده داده‌ها به دست می‌آید مقایسه می‌کند"، و k را برمی‌گزیند که در آن شکاف میان این دو بزرگ‌ترین است؛ "در واقع این راهی خودکار برای یافتن 'شکستگی' است… همچنین وقتی داده‌ها در یک خوشه واحد قرار می‌گیرند به‌طور معقولی کار می‌کند، و در این حالت گرایش دارد تعداد بهینه خوشه‌ها را یک برآورد کند. این سناریویی است که بیشتر روش‌های رقیب در آن شکست می‌خورند" (Hastie et al., 2009, p. 519). برای آمیخته‌های گاوسی، که در آن‌ها اینرسی و سیلوئت "وقتی خوشه‌ها کروی نیستند یا اندازه‌های متفاوت دارند قابل اعتماد نیستند"، ژرون به BIC و AIC روی می‌آورد – ملاک‌های اطلاعاتی که پارامترها را جریمه می‌کنند (Chapter 9, "Selecting the Number of Clusters") – و این همان کاری است که TwoStep در پس "خودکار" انجام می‌دهد.

و در ماشین‌حساب: صفحه تحلیل خوشه‌ای روش دومرحله‌ای را روی متغیرهای کمی اجرا می‌کند – وارد، و پس از آن k-میانگین که از مراکز خوشه‌های وارد شروع می‌کند – و برای هر k سه ملاک این بخش را چاپ می‌کند: W_k (آرنج)، میانگین سیلوئت و آماره شکاف (مانند clusGap، با مولد اعداد تصادفی R). از آنجا – دندروگرام، نیمرخ خوشه‌ها، نمودار سیلوئت و فایلی با ستون خوشه برای اعتبارسنجی طبق بخش 6. و با یک کلیک – پایداری در نمونه‌گیری مجدد: آیا افراز، و هر خوشه در آن، در نمونه‌های bootstrap تکرار می‌شوند – اعتبارسنجی بدون معیار بیرونی که در بخش 6 آمده است.

6. خوشه به‌عنوان فرضیه: پس از یافتن آن چه می‌کنیم

قاعده‌ای که جایگزینی ندارد: الگوریتم همیشه خوشه برمی‌گرداند. k-میانگین روی دو متغیر کاملاً یکنواخت، بدون هیچ ساختاری، سه خوشه با اندازه‌های معقول و با سیلوئتی نه‌چندان شرم‌آور برمی‌گرداند – بخش 8 این را با اعداد نشان می‌دهد. ترونگ در میان کاستی‌های این روش، حساسیت به مقداردهی اولیه، به داده‌های پرت و به ابعاد را برمی‌شمارد، و تفسیر را: "خود خوشه‌ها ممکن است بدون برچسب یا توضیح روشن باشند" (Truong, 2026, p. 462) – و دو گام آخر او نیمرخ‌سازی (profiling: میانگین‌ها و فراوانی‌های هر خوشه) و اعتبارسنجی است، "برای اطمینان از اینکه نتایج خوشه‌بندی معنادار، پایا و متناسب با داده‌ها هستند" (ص. 462). چیزی را که معیاری ندارد چگونه اعتبارسنجی می‌کنیم؟ به سه راه، از ضعیف به قوی، و هر سه روی داده‌هایی که خوشه از آن‌ها ساخته نشده است.

پایداری. خوشه‌ای که در داده‌ها وجود دارد تکرار می‌شود: با الگوریتمی دیگر (k-میانگین در برابر وارد در برابر آمیخته گاوسی – شاخص رند تعدیل‌شده، ARI، میان دو افراز)، در نیمه دیگری از نمونه (نیمی را خوشه‌بندی می‌کنند، نیمه دوم را به مراکز یافته‌شده تخصیص می‌دهند، و با افراز مستقل خودش مقایسه می‌کنند)، و با مقداردهی اولیه دیگر. خوشه‌ای که با عوض کردن پیوند یا کنار گذاشتن ده آزمودنی تغییر می‌کند محصول الگوریتم است، نه جامعه آماری – این هشدار هستی و همکارانش درباره دندروگرام است (بخش 4)، و بر هر روشی صدق می‌کند. متغیرهای بیرونی. اگر خوشه‌ها سنخ‌هایی واقعی باشند، در متغیری هم که در ساختنشان شرکت نداشته متمایز خواهند بود – پیامدی که بعداً اندازه‌گیری شده، متغیر زمینه‌ای که بیرون نگه داشته شده است. این تفاوت تنها گواهی است که پژوهش اجتماعی برای اینکه خوشه "چیزی می‌گوید" در اختیار دارد، و با ابزارهای معمول آزموده می‌شود (خی‌دو، ANOVA) – به یک شرط: متغیر واقعاً بیرون مانده باشد. کسی که بر اساس پنج متغیر خوشه‌بندی می‌کند که یکی از آن‌ها پیامد است، و سپس گزارش می‌دهد که خوشه‌ها آن را "پیش‌بینی می‌کنند"، تعریف را گزارش می‌دهد. و آنچه خوشه نیست. خوشه "آماره‌ای توصیفی" است (Hastie et al., 2009, p. 518) از این نمونه، با این فاصله و این متغیرها؛ نامی که پژوهشگر به آن می‌دهد – "گسسته‌ها"، "درگیرها" – تفسیر است، درست مانند نام یک عامل. نقشه ابزارها نقد دراکر و آلبرتزی بر مدل‌سازی موضوعی را می‌آورد، که چنان توصیف می‌شود گویی موضوع‌ها "از پیش در متن هستند و نه اینکه به‌عنوان کنش خواندن و تفسیر پدید می‌آیند" (همان، بخش 1) – این نقد، کلمه به کلمه، بر خوشه‌های آزمودنی‌ها صدق می‌کند. و اگر خوشه در ادامه به‌عنوان متغیری در مدل بانظارت به کار رود – به‌عنوان ویژگی، یا به‌عنوان برچسبی که کار برچسب‌گذاری را کم می‌کند: ژرون نشان می‌دهد که برچسب زدن 50 "تصویر نماینده"، یکی برای مرکز هر خوشه، به جای 50 تصویر تصادفی، صحت را از 74.8% به 84.9% می‌رساند (Chapter 9, "Using Clustering for Semi-Supervised Learning") – همه قواعد نشت بر آن صدق می‌کند: خوشه فقط روی مجموعه آموزش، به‌عنوان مرحله‌ای در خط لوله، محاسبه می‌شود.

7. و نامش در منو چیست: SPSS Statistics و SPSS Modeler

SPSS Statistics. رویه پالانت، گام به گام (Pallant, 2020, Chapter 15, "Procedure for Factor Analysis: Part 1"): Analyze، Dimension Reduction، Factor؛ گویه‌ها را به Variables منتقل می‌کنند؛ در دکمه Descriptives گزینه‌های Initial Solution، Coefficients و KMO and Bartlett's test of sphericity را علامت می‌زنند؛ در دکمه Extraction – "مطمئن شوید که Principal components نمایش داده می‌شود، یا یکی از فنون استخراج دیگر را برگزینید (e.g., Maximum likelihood)" – این همان فهرست کشویی است که بخش 3 به آن می‌پردازد، و برای تحلیل عاملی در آن Principal axis factoring یا Maximum likelihood انتخاب می‌شود؛ Scree plot را علامت می‌زنند، و در قسمت Extract – Based on Eigenvalue (قاعده کایزر، پیش‌فرض) یا Fixed number of factors، که در آن عددی را که تحلیل موازی داده است وارد می‌کنند؛ در دکمه Rotation – Direct Oblimin (پیش‌فرض None است)؛ در دکمه Options – Sorted by size و Suppress small coefficients با .3. سینتکسی که از این به دست می‌آید دستور FACTOR است با /EXTRACTION PC، /CRITERIA MINEIGEN(1) و /ROTATION OBLIMIN – سه سطری که نشان می‌دهند چه انجام شده است، و بنابراین همان‌هایی‌اند که به گزارش پیوست می‌شوند. و به گفته پالانت چه گزارش می‌شود: روش استخراج، ملاک‌های تعداد عامل‌ها – "و این باید شامل تحلیل موازی باشد" – روش چرخش، کل واریانس تبیین‌شده، مقادیر ویژه پیش و پس از چرخش، جدول کامل بارها "که همه مقادیر را نشان دهد (نه فقط آن‌هایی که بالای .3 هستند)"، و در چرخش oblimin – ماتریس الگو و ماتریس ساختار به‌طور کامل، همراه با همبستگی‌های میان عامل‌ها (ibid., "Presenting the Results from Factor Analysis"). فیلد، در همان پنجره‌ها، Principal axis factoring را برمی‌گزیند، ماتریس همبستگی را تحلیل می‌کند ("پیش‌فرضی سودمند، زیرا شکل استانداردشده را می‌گیرد… اگر متغیرها با مقیاس‌های مختلف اندازه‌گیری شده باشند این بر راه‌حل اثر نمی‌گذارد")، و توصیه می‌کند "یک تحلیل اولیه با مقادیر ویژه بزرگ‌تر از 1 اجرا کنید، نمودار scree را انتخاب کنید و مقایسه کنید… بهتر است تحلیل موازی را هم اجرا کنید. اگر ملاک‌های مختلف نتایج متفاوتی می‌دهند، اشتراک‌ها را بررسی کنید و خودتان تصمیم بگیرید" (Field, 2024, Section 18.6.1, SPSS Tip 18.2). گزارش به روش فیلد: جدول بارهای چرخش‌یافته همه گویه‌ها "با مقادیر بالای یک ملاک (من شخصاً .40 را برمی‌گزینم) پررنگ‌شده"، درصد واریانس هر عامل و شاید مقدار ویژه نیز، شاخص‌های مناسب بودن داده‌ها – KMO با برچسب‌های کایزر و رایس (.90 "عالی"، .80 "شایسته"، .70 "متوسط"، .60 "نسبتاً ضعیف"، .50 "ناچیز"، و زیر .5 – گردآوری داده‌های بیشتر یا بازاندیشی در متغیرها؛ بخش 18.5.2) – "و در حالت آرمانی، جدول همبستگی‌ها را در یک مخزن علم باز مانند OSF بسپارید تا کسی بتواند تحلیل را بازتولید کند" (بخش 18.8)؛ مثال او: principal axis، oblimin، KMO .92، چهار عامل در تحلیل موازی در برابر صدک 95 از 20 مجموعه تصادفی. و جمله جمع‌بندی او، که سزاوار است روی صفحه‌نمایش چسبانده شود: "تصمیم‌های بسیار زیادی بر عهده پژوهشگری است که از تحلیل عاملی استفاده می‌کند، و بنابراین درجات آزادی پژوهشگر… نقش نه‌چندان کمی بازی می‌کنند: بکوشید تصمیم‌هایی آگاهانه و بی‌طرفانه بگیرید، و در برابر وسوسه تصمیم‌هایی که نتایج دلخواهتان را به شما می‌دهند مقاومت کنید" (بخش 18.7.6). خوشه‌ها – Analyze، Classify (اینجا دیگر بدون پالانت، که به خوشه‌ها نمی‌پردازد؛ مسیرها – اطلاعات عمومی درباره نرم‌افزار): Hierarchical Cluster (با دندروگرام زیر Plots و انتخاب فاصله و پیوند زیر Method)، K-Means Cluster (تعداد خوشه‌ها الزامی است؛ Iterate و Classify)، و TwoStep Cluster (تعداد خودکار بر اساس BIC یا AIC). استانداردسازی – Descriptives، Save standardized values، یا Standardize درون پنجره سلسله‌مراتبی – گامی جداگانه است، و کسی که آن را فراموش کند خوشه‌های متغیری را می‌گیرد که بزرگ‌ترین دامنه را دارد. سیلوئت و آماره شکاف را SPSS محاسبه نمی‌کند؛ TwoStep "سنجه سیلوئت انسجام و جدایی" را در خروجی Model Viewer نشان می‌دهد، و برای بقیه – بخش 8.

SPSS Modeler. همان کار با گره‌ها (جریان – صفحه یادگیری ماشین، بخش 10)، و این بار از مستندات خود IBM. گره PCA/Factor از گروه Modeling "دو رویکرد مشابه اما متمایز" ارائه می‌کند، و بخش 3 را با واژه‌های خودش صورت‌بندی می‌کند: "PCA بر همه واریانس، از جمله واریانس مشترک و اختصاصی، تمرکز دارد… تحلیل عاملی فقط بر واریانس مشترک تمرکز دارد. واریانسی که مختص فیلدهای خاصی است در برآورد مدل در نظر گرفته نمی‌شود" (IBM Corporation, 2016a, p. 182). پیش‌فرض Extraction Method گزینه Principal Components است؛ جایگزین‌ها – Unweighted / Generalized Least Squares، Maximum Likelihood، Principal Axis Factoring و غیره – در حالت Expert، و همانجا نیز Extract factors: Eigenvalues over (قاعده کایزر) یا Maximum number، که "پیش‌فرض آن پنج عامل/مؤلفه است"؛ و Rotation، که پیش‌فرضش "No rotation" است (ص. 183). یعنی همان سه پیش‌فرض SPSS Statistics، با نام‌هایی دیگر – و بدون scree: ترونگ، که گره به او پنج مؤلفه داد، آن را در اکسل رسم کرد (Truong, 2026, pp. 445-446). برای خوشه‌ها سه گره هست: K-Means – "تعداد خوشه‌هایی که مشخص می‌کنید… پیش‌فرض 5 است"، و هشداری که سزاوار دو بار خواندن است: "مدل حاصل تا حدی به ترتیب داده‌های آموزش بستگی دارد. مرتب کردن دوباره داده‌ها و ساختن دوباره مدل ممکن است به مدل خوشه‌بندی نهایی متفاوتی بینجامد" (IBM Corporation, 2016a, p. 227) – یک اجرا، بدون nstart بخش 8، و وندلر و گروتروپ توضیح می‌دهند چرا: مرکز نخست "مقادیر نخستین رکورد در مجموعه‌داده" است، و مراکز بعدی – رکوردهایی که از مراکزِ از پیش تعیین‌شده دورترین‌اند؛ متغیرهای عددی ابتدا، به‌طور درونی، به دامنه 0-1 استاندارد می‌شوند (Wendler & Gröttrup, 2021, pp. 676-677)؛ TwoStep – فیلدهای عددی را به‌طور پیش‌فرض استاندارد می‌کند، می‌تواند ناهنجارها را به خوشه "نوفه" بفرستد، و تعداد خوشه‌ها را به‌طور خودکار "بر پایه تغییر در ملاک اطلاعات بیزی (BIC) با افزودن خوشه‌ها" و سپس بر اساس بزرگ‌ترین تغییر در کمینه فاصله میان خوشه‌ها برمی‌گزیند؛ فاصله – لگاریتم درست‌نمایی (عددی و طبقه‌ای با هم؛ متغیرهای پیوسته را نرمال و مستقل فرض می‌کند) یا اقلیدسی (ص. 229-230) – و آن نیز، به گفته وندلر و گروتروپ، به دلیل پیش‌خوشه‌بندی "به ترتیب اشیا در مجموعه‌داده بستگی دارد" (Wendler & Gröttrup, 2021, p. 651)؛ و Auto Cluster، که TwoStep، K-Means و کوهونن را اجرا می‌کند، بر اساس سیلوئت (پیش‌فرض؛ "مدل‌هایی با سیلوئت منفی را می‌توان با خیال راحت کنار گذاشت")، بر اساس تعداد خوشه‌ها یا بر اساس اندازه آن‌ها رتبه‌بندی می‌کند – و "فیلدهای ارزیابی" را ممکن می‌سازد: "هرچند از هدف استفاده نمی‌شود، می‌توان یک یا چند فیلد ارزیابی برای مقایسه مدل‌ها مشخص کرد. سودمندی یک مدل خوشه‌بندی را می‌توان با سنجیدن اینکه خوشه‌ها تا چه اندازه (خوب یا بد) این فیلدها را از هم متمایز می‌کنند ارزیابی کرد" (ص. 70-71) – این همان متغیر بیرونی بخش 6 است، تعبیه‌شده در نرم‌افزار. و آنچه نیست: گره Analysis، که پیش‌بینی‌ها را با واقعیت مقایسه می‌کند، "فقط در مدل‌های بانظارت سودمند است… مدل‌های بدون نظارت مانند الگوریتم‌های خوشه‌بندی نتایج واقعی‌ای ندارند که مبنای مقایسه قرار گیرد" (IBM Corporation, 2016b, p. 276) – IBM بخش 1 را در یک جمله می‌گوید. و کتاب درسی Modeler بخش‌های 5-6 را می‌گوید: "بر پایه تجربه عملی، بر این باوریم که تصمیم درباره اینکه چند خوشه تعیین شود باید نخست گرفته شود"، با سیلوئت به‌عنوان معیار برازش (ص. 724)؛ "به همان اندازه، تعداد خوشه‌ها باید بر پایه دانش عملی تعیین شود" (ص. 750)؛ و "روش‌های خوشه‌بندی هیچ کمکی در یافتن توصیف مناسب برای هر خوشه نمی‌کنند. پژوهشگر باید خودش دریابد که هر خوشه را چگونه به بهترین شکل توصیف کند" (Wendler & Gröttrup, 2021, p. 650). تحلیل موازی، آماره شکاف و پایداری میان الگوریتم‌ها – در یک سطر R هست.

8. و این کار در R چگونه انجام می‌شود

اسکریپت زیر عیناً روی فایل داده‌های نمونه این صفحه اجرا شد – DATA_unsup_example_eng.xlsx (و به عبری _heb.xlsx؛ هر دو در qa/ml/): 300 پاسخ‌گو در یک پیمایش اجتماع محلی، 12 گویه لیکرت (تعلق، اعتماد، امنیت – چهار گویه برای هر کدام)، چهار متغیر رفتاری (ساعت‌های داوطلبی، رویدادها، همسایگان آشنا، سال‌های زندگی در اجتماع)، دو متغیر "نوفه" یکنواخت، و پیامدی که بعداً اندازه‌گیری شد – ترک اجتماع. داده‌ها ساختگی‌اند، و از سه عامل و سه نیمرخ تولید شده‌اند – تا بدانیم پاسخ چیست و ببینیم کدام ملاک آن را می‌یابد؛ نیمرخ واقعی در فایل نیست. بسته‌ها: readxl، psych (تحلیل موازی، عامل‌ها)، cluster (سیلوئت، آماره شکاف)، mclust – آمیخته‌ها و شاخص رند (Scrucca et al., 2016). مسیر را باید عوض کرد. توضیحات کد به انگلیسی‌اند، چون این بلوک از چپ به راست نمایش داده می‌شود.

library(readxl); library(psych); library(cluster); library(mclust)
d <- read_excel("C:/Rdata/DATA_unsup_example_eng.xlsx")
items <- d[, c("belong1","belong2","belong3","belong4","trust1","trust2","trust3","trust4",
               "safe1","safe2","safe3","safe4")]
beh   <- d[, c("volunteer_h","events","neighbours","years")]

# --- Step 1: PCA on the 12 items - standardised (scale = TRUE), because units differ ------
pca <- prcomp(items, scale. = TRUE)
ev  <- pca$sdev^2                                   # eigenvalues of the correlation matrix
round(rbind(eigenvalue = ev, proportion = ev / sum(ev), cumulative = cumsum(ev) / sum(ev)), 3)
cat("Kaiser (eigenvalue > 1) keeps:", sum(ev > 1), "components\n")

# --- Step 2: how many? parallel analysis (Horn) for components AND factors ----------------
set.seed(20260922)
pa <- fa.parallel(items, fa = "both", n.iter = 100, plot = FALSE)
cat("parallel analysis: components =", pa$ncomp, " factors =", pa$nfact, "\n")

# --- Step 3: PCA is not factor analysis: same items, two models ---------------------------
pc3 <- principal(items, nfactors = 3, rotate = "oblimin")   # components: total variance
fa3 <- fa(items, nfactors = 3, fm = "ml", rotate = "oblimin") # common factors: shared variance
print(pc3$loadings, cutoff = .30)
print(fa3$loadings, cutoff = .30)
cat("factor correlations (EFA):\n"); print(round(fa3$Phi, 2))
cat("communalities - PCA vs EFA (first 4 items):\n")
print(round(rbind(PCA = pc3$communality[1:4], EFA = fa3$communality[1:4]), 2))

# --- Step 4: k-means on the 4 behaviour variables - scaled first ---------------------------
X <- scale(beh)
set.seed(20260922)
km <- lapply(2:6, function(k) kmeans(X, centers = k, nstart = 25, iter.max = 100))
inertia <- sapply(km, function(m) m$tot.withinss)              # the "elbow" curve
sil     <- sapply(km, function(m) mean(silhouette(m$cluster, dist(X))[, 3]))
gap     <- clusGap(X, FUN = function(x, k) kmeans(x, k, nstart = 25), K.max = 6, B = 100)
round(cbind(k = 2:6, inertia = inertia, silhouette = sil), 3)
print(gap, method = "Tibs2001SEmax")

# --- Step 5: the chosen solution - and what it looks like in the original units ---------
k3 <- km[[2]]                                                   # k = 3
cat("sizes:", k3$size, "\n")
round(aggregate(beh, by = list(cluster = k3$cluster), FUN = mean), 1)

# --- Step 6: does another algorithm agree? hierarchical (Ward) vs k-means ----------------
hc  <- hclust(dist(X), method = "ward.D2")
hc3 <- cutree(hc, k = 3)
table(kmeans = k3$cluster, ward = hc3)
cat("adjusted Rand index, k-means vs Ward:", round(adjustedRandIndex(k3$cluster, hc3), 3), "\n")

# --- Step 7: stability - split-half: cluster each half, predict the other by nearest centre
set.seed(20260922)
h  <- sample(rep(c(TRUE, FALSE), length.out = nrow(X)))
kA <- kmeans(X[h, ], 3, nstart = 25); kB <- kmeans(X[!h, ], 3, nstart = 25)
nearest <- function(x, centres) apply(x, 1, function(r) which.min(colSums((t(centres) - r)^2)))
predB <- nearest(X[!h, ], kA$centers)                          # A's rule applied to B
cat("split-half ARI (A's centres on B vs B's own clusters):",
    round(adjustedRandIndex(predB, kB$cluster), 3), "\n")

# --- Step 8: the control - two pure-noise variables get clustered too ---------------------
Z <- scale(d[, c("noise_a", "noise_b")])
set.seed(20260922)
kz <- kmeans(Z, 3, nstart = 25)
cat("noise, k = 3: sizes", kz$size, " silhouette",
    round(mean(silhouette(kz$cluster, dist(Z))[, 3]), 3), "\n")
gz <- clusGap(Z, FUN = function(x, k) kmeans(x, k, nstart = 25), K.max = 6, B = 100)
cat("noise, gap statistic chooses k =", maxSE(gz$Tab[, "gap"], gz$Tab[, "SE.sim"], method = "Tibs2001SEmax"), "\n")

# --- Step 9: model-based alternative - Gaussian mixture, number of components by BIC ------
mc <- Mclust(beh, G = 1:6, verbose = FALSE)
cat("Mclust: model", mc$modelName, "with G =", mc$G, "components; ARI vs k-means",
    round(adjustedRandIndex(mc$classification, k3$cluster), 3), "\n")

# --- Step 10: the cluster is a hypothesis, not a finding: an outcome that was NOT clustered on
tab <- table(cluster = k3$cluster, moved_out = d$moved_out)
round(prop.table(tab, 1), 2)
chisq.test(tab)

چه به دست آمد (R 4.3.3، psych 2.4.1، cluster 2.1.6، mclust 6.0.1؛ خروجی کامل – qa/ml/unsup_out.txt). گویه‌ها: مقادیر ویژه 12 گویه – 2.88، 2.12، 1.80، و سپس 0.85 و کمتر؛ سه مقدار نخست 56.7% از واریانس را تبیین می‌کنند. قاعده کایزر سه تا نگه می‌دارد، و تحلیل موازی نیز – سه مؤلفه و سه عامل؛ اینجا توافق دارند، چون ساختار تمیز است، و در پرسشنامه واقعی همیشه توافق نخواهند داشت. همان گویه‌ها در هر دو مدل، هر دو با چرخش oblimin: هر گویه در هر دو مدل روی عامل خودش بار می‌گیرد – اما بارهای مؤلفه‌ها بالاترند (0.80، 0.79، 0.68، 0.75 برای تعلق، در برابر 0.74، 0.71، 0.55، 0.63)، و اشتراک‌های چهار گویه تعلق 0.65، 0.63، 0.48، 0.55 در PCA در برابر 0.56، 0.51، 0.32، 0.39 در تحلیل عاملی است؛ سه مؤلفه 56.7% را "تبیین می‌کنند" و سه عامل 43.0%. تفاوت، واریانس اختصاصی گویه‌هاست – خطای اندازه‌گیری – که PCA آن را وارد مؤلفه‌ها می‌کند و تحلیل عاملی بیرون نگه می‌دارد؛ این بخش 3 است به زبان اعداد. همبستگی‌های عامل‌ها .17، .09، .26 – صفر نیستند، و بنابراین چرخش مایل. رفتار: روی چهار متغیر استانداردشده، اینرسی برای k از 2 تا 6 به‌ترتیب 498، 274، 245، 227، 200 کاهش می‌یابد – آرنج در 3؛ سیلوئت .47، .48، .44، .44، .37 – بیشینه در 3، اما 2 و 4 نزدیک‌اند؛ آماره شکاف، در 100 شبیه‌سازی – 3. اندازه خوشه‌ها 71، 120 و 109، و میانگین‌هایشان در واحدهای اصلی: 15 ساعت داوطلبی، 22 رویداد، 25 همسایه و 20 سال در یک خوشه؛ 1.8، 3، 6 و 4.5 در دومی؛ 8، 10، 14 و 12.5 در سومی – درگیرها، گسسته‌ها، میانه‌ها؛ این نام‌ها از ماست، نه از الگوریتم. پایداری: وارد با k-میانگین روی 298 از 300 آزمودنی توافق دارد (ARI .98)؛ افرازی که روی یک نیمه آموخته و بر نیمه دیگر اعمال شده با افراز مستقل همان نیمه با ARI .96 توافق دارد؛ آمیخته گاوسی با BIC سه مؤلفه برمی‌گزیند (مدل VEI) و کاملاً با k-میانگین توافق دارد (ARI 1). نوفه: روی دو متغیر یکنواخت بدون هیچ ساختاری، k-میانگین سه خوشه با اندازه‌های 108، 104 و 88 و با سیلوئت .39 برمی‌گرداند – عددی که در پرسشنامه واقعی گزارش می‌شد؛ آماره شکاف k=1 را برمی‌گزیند. کل استدلال همین است. و فرضیه: ترک اجتماع، که در خوشه‌بندی شرکت نداشت، میان خوشه‌ها متفاوت است – 7%، 30% و 21% (χ²(2) = 14.0, p < .001)؛ این گواهی است که خوشه‌ها چیزی می‌گویند، و این سطحی است که آن‌ها را در آن گزارش می‌کنیم: تفاوت در یک متغیر بیرونی، نه "سه سنخ در اجتماع".

اشتباهات رایج

گزارش "تحلیل عاملی" برای مؤلفه‌های اصلی. پیش‌فرض SPSS – "اوه!" (فیلد). مؤلفه‌ها خطای اندازه‌گیری را در بر دارند، اشتراک‌ها متورم‌اند، و نمی‌توان از ساختار پنهان سخن گفت (بخش 3). برای تحلیل عاملی – Principal axis یا Maximum likelihood، چرخش مایل.

سپردن تصمیم به مقدار ویژه 1. "از کم‌دقت‌ترین روش‌ها"، و با این حال پیش‌فرض در هر دو نرم‌افزار؛ در مثال PANAS پالانت چهار مؤلفه برای مقیاسی دوعاملی به دست می‌دهد. تحلیل موازی – و اگر در دسترس نیست، دست‌کم scree با قضاوتی مستدل (جدول 2).

خوشه‌بندی بدون استانداردسازی. متغیری با دامنه 0-100 در کنار متغیرهایی با دامنه 1-5: خوشه‌ها مال متغیر بزرگ‌اند (ژرون، فصل 9؛ گوتیرز، فصل 8). در SPSS استانداردسازی گامی جداگانه است.

انتخاب k بر اساس اینرسی – یا بر اساس عادت. اینرسی همیشه کاهش می‌یابد؛ "سه خوشه" یک عادت است. سیلوئت و آماره شکاف، و پاسخی برای "یک" نیز (بخش 5).

"ساختار داده‌ها" نامیدن دندروگرام. دندروگرام محصول الگوریتم است؛ پیوندی دیگر، ده آزمودنی کمتر – درختی دیگر. "روش‌های سلسله‌مراتبی ساختاری سلسله‌مراتبی تحمیل می‌کنند، خواه وجود داشته باشد یا نه" (هستی و همکاران، ص. 522).

اعتبارسنجی خوشه با متغیری که آن را ساخته است. "خوشه‌ها در داوطلبی تفاوت معنادار دارند" – وقتی داوطلبی یکی از متغیرهای خوشه‌بندی است – گزارش تعریف است. اعتبارسنجی فقط با متغیری که بیرون مانده است (بخش 6).

نام گذاشتن و فراموش کردن اینکه نام‌ها از شماست. "گسسته‌ها" تفسیری از میانگین‌هاست، نه ویژگی‌ای که الگوریتم کشف کرده است؛ و مشاهداتی که در میانه‌اند – که آمیخته گاوسی به آن‌ها 50/50 می‌داد – در برچسب ناپدید می‌شوند.

تفسیر فاصله‌ها در t-SNE. این نقشه برای نگاه کردن است؛ اندازه خوشه و فاصله‌اش از دیگران در تصویر به پارامترها بستگی دارد و یافته نیست (بخش 2).

فهرست وارسی – پیش از گزارش مؤلفه‌ها، عامل‌ها یا خوشه‌ها

منابع

Bishop, C. M. (2006). Pattern recognition and machine learning. Springer.

Costello, A. B., & Osborne, J. (2005). Best practices in exploratory factor analysis: Four recommendations for getting the most from your analysis. Practical Assessment, Research, and Evaluation, 10(7). https://doi.org/10.7275/jyj1-4868

Field, A. (2024). Discovering statistics using IBM SPSS statistics (6th ed.). SAGE.

Géron, A. (2022). Hands-on machine learning with Scikit-Learn, Keras, and TensorFlow: Concepts, tools, and techniques to build intelligent systems (3rd ed.). O'Reilly Media.

Gutierrez, D. D. (2015). Machine learning and data science: An introduction to statistical learning methods with R. Technics Publications.

Hastie, T., Tibshirani, R., & Friedman, J. (2009). The elements of statistical learning: Data mining, inference, and prediction (2nd ed.). Springer. https://doi.org/10.1007/978-0-387-84858-7

IBM Corporation. (2016a). IBM SPSS Modeler 18.0 modeling nodes. IBM. https://public.dhe.ibm.com/software/analytics/spss/documentation/modeler/18.0/en/ModelerModelingNodes.pdf

IBM Corporation. (2016b). IBM SPSS Modeler 18.0 source, process, and output nodes. IBM. https://public.dhe.ibm.com/software/analytics/spss/documentation/modeler/18.0/en/ModelerSPOnodes.pdf

Horn, J. L. (1965). A rationale and test for the number of factors in factor analysis. Psychometrika, 30(2), 179-185. https://doi.org/10.1007/BF02289447

Pallant, J. (2020). SPSS survival manual: A step by step guide to data analysis using IBM SPSS (7th ed.). Routledge. https://doi.org/10.4324/9781003117452

Rousseeuw, P. J. (1987). Silhouettes: A graphical aid to the interpretation and validation of cluster analysis. Journal of Computational and Applied Mathematics, 20, 53-65. https://doi.org/10.1016/0377-0427(87)90125-7

Scrucca, L., Fop, M., Murphy, T. B., & Raftery, A. E. (2016). mclust 5: Clustering, classification and density estimation using Gaussian finite mixture models. The R Journal, 8(1), 289-317. https://doi.org/10.32614/RJ-2016-021

Tibshirani, R., Walther, G., & Hastie, T. (2001). Estimating the number of clusters in a data set via the gap statistic. Journal of the Royal Statistical Society: Series B (Statistical Methodology), 63(2), 411-423. https://doi.org/10.1111/1467-9868.00293

Truong, D. (2026). Demystifying AI: Data science and machine learning using IBM SPSS Modeler. Chapman and Hall/CRC. https://doi.org/10.1201/9781003468196

Wendler, T., & Gröttrup, S. (2021). Data mining with SPSS Modeler: Theory, exercises and solutions (2nd ed.). Springer. https://doi.org/10.1007/978-3-030-54338-9