חריגים והנחות: מה מטה את התוצאות, ומה עושים

מדריך

מה בעמוד

כמעט כל המבחנים שבאתר – מתאם, t, ANOVA, רגרסיה – הם גרסאות של מודל אחד, המודל הליניארי, ולכן יש להם אותן הנחות ואותם אויבים. Field (2024, פרק 6) קורא לזה "מפלצת ההטיה" עם שני ראשים: ערכים חריגים והפרה של הנחות. העמוד מסביר מה כל ראש פוגע בו – כי לא הכול נפגע באותה מידה: האומדן עצמו לרוב בסדר, ומה שנשבר הוא שגיאת התקן ואיתה רווח הסמך והמבחן – מסדר את ההנחות לפי חשיבות (ליניאריות ראשונה, נורמליות אחרונה), מראה איך מזהים בעיות בגרפים ובמספרים, ומה עושים: שיטות חסינות, לא מחיקה ולא טרנספורמציה של התוצאה.

1. מה זו הטיה – ומה בדיוק נפגע

שופט "מוטה" הוא מי שהסיכום שלו אינו תואם את האמת האובייקטיבית; וכך בסטטיסטיקה – הפרמטרים שאנו אומדים יכולים להיות שונים מערכיהם האמיתיים, ומבחנים יכולים לטעות (Field, 2024, Section 6.3). מה שחשוב לעמוד הזה הוא ש"הטיה" אינה דבר אחד. Field מפרק אותה לפי מה שרוצים מהמודל: אם רוצים לאמוד – אומד לא-מוטה הוא כזה שבממוצע, על פני מדגמים, פוגע בערך האוכלוסייה; אומד עקבי מתכנס אליו ככל שהמדגם גדל; אומד יעיל הוא בעל השונות הקטנה ביותר מבין החלופות. אם רוצים רווח סמך – מה שנבדק הוא הכיסוי: רווח של 95% אמור להכיל את ערך האוכלוסייה ב-95% מהמדגמים, ואם לא – הוא מוטה. ואם רוצים לבדוק השערה – מבחן לא-מוטה שומר על שיעור הטעות מסוג I שנקבע (5%) ועל שיעור הטעות מסוג II (20%). ההבחנה הזאת היא המפתח לכל מה שיבוא: רוב ההפרות משאירות את האומדן תקין ופוגעות בשגיאת התקן – ואיתה ברווח הסמך ובמבחן.

2. חריגים – הראש הראשון

חריג הוא ציון שונה מאוד משאר הנתונים. הדוגמה של Field (2024, סעיף 6.4) היא שבע הביקורות הראשונות על המהדורה הראשונה של ספרו באמזון: 2, 5, 4, 5, 5, 5, 5. הממוצע 4.43; בלי הביקורת הראשונה – 4.83. ציון אחד גרר את הממוצע 0.4 למטה, וקונה חדש היה מסיק שהספר גרוע ממה שהאוכלוסייה חושבת. במודל עם מנבא – קונצרט רועש מאוד עם צלצול קצר יחסית באוזניים – החריג השטיח את קו הרגרסיה: השיפוע ירד מ-9.94 ל-6.01. אבל הנקודה החשובה של Field היא שחריגים פוגעים הרבה יותר בשגיאה מאשר באומדן: בדוגמת חמשת המרצים (1, 3, 4, 3, 2), החלפת 4 ב-10 מזיזה את הממוצע מ-2.6 ל-3.8, אבל את סכום ריבועי השגיאה מ-5.2 ל-50.8 – 38.44 מתוכם באחריות החריג. הסיבה: השגיאות מרובעות, וסטייה גדולה מוכפלת בעצמה. וסכום הריבועים הוא מה שממנו מחושבות סטיית התקן, שגיאת התקן, רווח הסמך והסטטיסטי של המבחן. חריג אחד – רווח סמך רחב ומבחן חלש.

ובכל זאת, Field חד-משמעי: חריגים נשארים בנתונים, אלא אם יש ראיה מוצקה שהם אינם מהאוכלוסייה שמעניינת אותנו. העובדה שציון חריג אינה סיבה למחוק אותו. השאלה שצריך לשאול היא למה: אם הקונצרט הרועש הסתיים בצלצול קצר, והתברר שהאדם הזה היחיד שחבש אטמי אוזניים – זה גם מסביר וגם מעביר אותו לאוכלוסייה אחרת, ואפשר להוציאו, בתנאי שמדווחים שהוצא ולמה; ורצוי לקבוע קריטריוני הוצאה מראש, ברישום מוקדם. ואם אין הסבר כזה – ברירת המחדל היא שהחריג משקף שונות טבעית, ורוצים לשמור אותו. Field מוסיף אזהרה על "חריגים חמקניים" (תיבה 6.5): לא ציון קיצוני ובודד, אלא תת-אוכלוסייה קטנה עם זנבות כבדים שמתחבאת בתוך התפלגות שנראית פעמון מושלם – התפלגות נורמלית מעורבת (Tukey, 1960, as cited in Field). היא מנפחת את אומדן השונות ומורידה את עוצמת המבחנים, והיא נפוצה מאוד.

3. ההנחות – בסדר חשיבות, לא בסדר שבו מלמדים אותן

הנחה היא תנאי שמבטיח שמה שאנחנו מנסים לעשות עובד כמו שצריך (Field, 2024, Section 6.5). ההליכים הסטטיסטיים מוצגים בדרך כלל כמבחנים נפרדים עם הנחות משלהם, אבל רובם גרסאות של המודל הליניארי הנאמד בריבועים פחותים, ולכן יש להם מערכת הנחות משותפת. Field מסדר אותה לפי חשיבות: (1) ליניאריות ואדיטיביות; (2) תוחלת השגיאות אפס – כמעט תמיד מתקיים; (3) "שגיאות כדוריות" – שונות שווה (הומוסקדסטיות) ואי-תלות; (4) נורמליות "של משהו". ולוח 6.1 שלו מוסיף את מה שכל הנחה קונה: ליניאריות דרושה לכל דבר; לאומדן לא-מוטה מספיק שהשגיאות בממוצע אפס; לאומדן הטוב ביותר – גם שגיאות כדוריות; לשגיאת תקן לא-מוטה – שגיאות כדוריות וגם נורמליות של השגיאות או מדגם גדול. רווח הסמך והמבחן יורשים את הנחות שגיאת התקן.

ליניאריות ואדיטיביות. ההנחה שהתוצאה קשורה למנבאים בקו ישר, ושכמה מנבאים פועלים בסכום. Field (2024, סעיף 6.6) מעמיד אותה מעל כולן: אם היא שגויה, המודל מתאר את העולם לא נכון – גם כשכל שאר ההנחות מתקיימות – ואין טעם לפרש את המקדמים או לדאוג למובהקות. המשל שלו: לקרוא לחתול כלב. אפשר לנסות להכניס אותו למלונה או לזרוק לו כדור, אבל הוא ישאר חתול. קשר עקום שמתואר בקו ישר הוא מודל שגוי, לא מודל עם בעיה.

הומוסקדסטיות (שונות שווה). פיזור השגיאות סביב המודל זהה בכל ערכי המנבא – ענן הנתונים במקביל לקו, ולא מתרחב כמשפך (Field, 2024, Section 6.7.1). כשההנחה מופרת, האומדנים של המקדמים נשארים לא-מוטים – אבל שגיאות התקן, רווחי הסמך והמבחנים אינם מדויקים, ורווחי הסמך יכולים להיות "לא מדויקים בצורה קיצונית" (Wilcox, 2010, as cited in Field, Section 6.7.2). כלומר: אם רק אומדים – לא נורא; אם בודקים מובהקות או מדווחים רווח סמך – חשוב, ויש פתרון (סעיף 6). בהשוואת קבוצות ההנחה הזאת נקראת הומוגניות שונויות.

אי-תלות של השגיאות. השגיאה בניבוי של נבדק אחד אינה קשורה לזו של אחר. הדוגמה של Field (2024, סעיף 6.7.3): פול וג'ולי שמתייעצים ביניהם אילו תמונות ראו – התשובות, ולכן השגיאות, אינן בלתי-תלויות. ההנחה מופרת תמיד כשאוספים נתונים מאותן ישויות לאורך זמן – מדידות חוזרות, מחקר אורך – כי תשובה של אדם במועד אחד מתואמת עם תשובתו במועד אחר; ולעניין האתר גם כשהנבדקים מקוננים בקבוצות שמשפיעות עליהם (משפחות, יישובים, כיתות). ההשלכות כמו בהומוסקדסטיות – שגיאת התקן שגויה – והפתרון הוא מודל שמביא את התלות בחשבון, לא ריבועים פחותים רגילים.

4. נורמליות – ההנחה הכי פחות חשובה, והכי לא מובנת

Field (2024, סעיף 6.8) פותח בכך שההנחה הזאת היא אולי הדבר הכי לא-מובן בסטטיסטיקה, ומקבל על עצמו חלק מהאשמה. הטעות הנפוצה: לחשוב ש"הנחת הנורמליות" אומרת שהנתונים צריכים להתפלג נורמלית. לא. מה שצריך להיות נורמלי הוא השגיאות של המודל, ובעיקר – התפלגות הדגימה של האומדן: כדי לדעת את שגיאת התקן משתמשים בנוסחה שנכונה כשהאומדנים מתפלגים נורמלית על פני מדגמים; אם לא – שגיאת התקן, רווח הסמך והמבחן אינם מדויקים. הבלבול נובע מכך שאם התוצאה נורמלית, גם השגיאות יהיו, ולכן התוצאה משמשת בן-חורג של הדבר שחשוב.

ושלוש הסיבות שבגללן זו ההנחה הכי פחות חשובה (Field, 2024, Section 6.8.3): אמידה אינה דורשת נורמליות – ריבועים פחותים נותנים אומדן לא-מוטה שממזער שגיאה גם כשהשגיאות אינן נורמליות; הנורמליות רק הופכת אותו ל"הטוב ביותר". במדגם גדול נורמליות אינה משנה – משפט הגבול המרכזי מבטיח שהתפלגות הדגימה תהיה נורמלית בלי קשר לצורת האוכלוסייה. ובמדגם קטן בודקים את שאריות המודל: אם הן נורמליות, אפשר להמשיך. כמה גדול זה "גדול"? הערך המקובל הוא 30, אבל אין תשובה פשוטה (תיבה 6.4): בהתפלגויות עם זנבות קלים גם 20 מספיק; עם זנבות כבדים – שבהן חריגים שכיחים – ייתכן שצריך 100 ואף 160, ועם הרבה צידוד וגבנוניות – עוד יותר. ומכאן המסקנה המעשית של Field: במדגם גדול, חריגים הם דאגה דחופה יותר מנורמליות.

5. איך בודקים – גרפים לפני מספרים, מספרים לפני מבחנים

חריגים רואים בנתונים; הפרות של הנחות – בשאריות של המודל, ובקירוב ראשון גם בתוצאה עצמה (Field, 2024, Section 6.9). הדוגמה של Field: ציוני היגיינה של 810 באי פסטיבל מטאל, בסולם 0 עד 4, בשלושה ימים. גרף פיזור, היסטוגרמה ותרשים קופסה מראים כולם מקרה אחד רחוק מכולם – ציון 20.02 ביום הראשון, בסולם שנגמר ב-4. חוזרים לרשומה המקורית: 2.02, שגיאת הקלדה. זה הלקח הראשון: חריג הוא קודם כול שאלה על הנתון, ורק אחר כך שאלה סטטיסטית. באתר: מ-SPSS לאקסל מזהיר על ערכים מחוץ לטווח שהמקרא מגדיר, ומחשבון השכיחויות והסטטיסטיקה התיאורית מראה מינימום, מקסימום ותרשים לכל משתנה – שם מתחילים.

ציוני תקן (תיבה 6.6): ממירים לציוני z ומשווים למה שמצפים בהתפלגות נורמלית – כ-5% מעל 1.96 בערך מוחלט, 1% מעל 2.58, וכמעט אף אחד מעל 3.29. בדוגמה של Field: 6.8% מעל 1.96 (לעומת 5%), 2.3% מעל 2.58 (לעומת 1%), 0.8% מעל 3.29 – "בערך מה שמצפים". תרשים קופסה מסמן חריגים ומקרים קיצוניים עם מספר השורה. גרף Q-Q משווה את הנתונים לקו האלכסון של התפלגות נורמלית – נקודות על הקו: נורמלי; כיפוף כלפי מעלה: צידוד חיובי (סעיף 6.9.4-6.9.5). את כל אלה – ציוני z, היסטוגרמה, Q-Q, צידוד וגבנוניות עם טעויות התקן, וגם שני המבחנים שבפסקה הבאה, עם משקל לפי גודל המדגם – מפיק מחשבון בדיקת הנורמליות, לכל המדגם או לפי קבוצה. צידוד וגבנוניות: SPSS נותן ערכים שאפס בהם הוא נורמלי; צידוד חיובי גורר את הממוצע מעל החציון, ולכן ממוצע גדול מחציון הוא סימן לצידוד חיובי; גבנוניות חיובית – זנבות כבדים. בדוגמה: יום 1 סימטרי (צידוד כמעט אפס), ימים 2-3 בצידוד של כ-1 – יותר אנשים עם ציונים נמוכים, "אנשים נעשו מסריחים יותר ככל שהפסטיבל התקדם".

ומבחני מובהקות לנורמליות – לא. Field (תיבה 6.7) מכסה את קולמוגורוב-סמירנוב, שפירו-וילק ולוין "בעיקר כי אנשים מצפים לראות אותם בספרי מבוא, ולא כי הם רעיון טוב": במדגם גדול הם מובהקים גם לסטיות קטנות וחסרות חשיבות – בדיוק כשנורמליות כבר לא משנה; במדגם קטן אין להם עוצמה לגלות הפרות – בדיוק כשהיא כן משנה. בדוגמה, K-S על יום 1 (N = 810) כמעט מובהק (p = .097) אף שההיסטוגרמה נורמלית להפליא. העצה: במדגם גדול – לא להשתמש בהם, ולא לדאוג לנורמליות בכלל; במדגם קטן – לשים לב אם הם מובהקים, ולא להירגע אם לא. ולכל המדגמים: לצייר. ליניאריות והומוסקדסטיות בודקים יחד בגרף אחד – שאריות מתוקננות מול ערכים חזויים (תרשים 1): ענן אחיד – תקין; משפך – הטרוסקדסטיות; קשת – לא ליניארי. עם מנבא יחיד, גרף הפיזור הרגיל הוא קירוב סביר.

וערכים חסרים, בדרך (Field, 2024, טיפ 6.1): מחיקה רשימתית מוציאה נבדק מכל הניתוח אם חסר לו ערך אחד; מחיקה זוגית מוציאה אותו רק מהניתוחים שהערך החסר נוגע להם – מטריצת המתאמים באתר נוהגת כך, ומדווחת N לכל זוג. החלפת חסר בממוצע המשתנה – ש-SPSS מציע לפעמים – מכווצת את סטיית התקן ואת שגיאת התקן, כי לכל ערך שהוחלף אין מרחק מהממוצע, ובהרבה חסרים היא מייצרת תוצאות "מובהקות" שהן תוצר ההחלפה. בהרחבה – בעמוד ערכים חסרים.

6. מה עושים – חסינות במקום מחיקה וטרנספורמציה

הדרך ההיסטורית הייתה מבחנים אל-פרמטריים, שממירים ציונים לדרגות – ומאבדים מידע – ומכסים מגוון מוגבל של מערכים (Field, 2024, Section 6.10). הדרך הטובה ביותר היום, לדברי Field, היא לאמוד פרמטרים, שגיאות תקן, רווחי סמך ו-p בשיטות שאינן מוטות בנוכחות חריגים והפרות – שיטות חסינות (robust methods):

גזימה (trimming): מסירים אחוז קבוע מכל קצה – 5%, 10%, 20% – ומחשבים ממוצע גזום; בקצה השני של הסקאלה נמצא החציון, שהוא גזימה של הכול חוץ מהאמצע (סעיף 6.10.5). גזימה לפי סטיות תקן ("להסיר כל מה שמעל 2.5 סטיות תקן") היא רעיון רע (תיבה 6.8): הממוצע וסטיית התקן עצמם מנופחים על-ידי החריגים, ולכן החריגים מטים את הקריטריון שאמור לטפל בהם – בדוגמה של Field הכלל לא הסיר שום ציון בסולם 0-10, כי הסף יצא מעבר לגבולות הסולם. וינזוריזציה: במקום להסיר, מחליפים את הציונים שמעבר לסף בערך הסף (סעיף 6.10.6). מרגיש כמו רמאות? Field: אם הציון אינו מייצג את המדגם ומטה את המודל, עדיף מלדווח מודל מוטה. הרמאות היא לא לטפל בקיצוניים כשהם מטים לטובת ההשערה, או לשנות ציונים באופן שיטתי מסיבה אחרת מהפחתת הטיה. שגיאות תקן עקביות להטרוסקדסטיות (HC3 או HC4): אומדים את שגיאת התקן מהשאריות בלי להניח שונות שווה (סעיף 6.10.7). Bootstrap: מתייחסים למדגם כאוכלוסייה, דוגמים ממנו עם החזרה 1,000-2,000 פעמים, מחשבים את האומדן בכל דגימה, ומהתפלגות האומדנים גוזרים רווח סמך (אחוזוני) ושגיאת תקן – בלי להניח דבר על צורת התפלגות הדגימה (Efron & Tibshirani, 1993; Field, 2024, Section 6.10.8). ב-SPSS יש לזה כפתור ברוב ההליכים; Field מציין שהתוצאות שונות מעט בכל הרצה כי הדגימה אקראית – ובאתר, לעומת זאת, ה-bootstrap רץ עם זרע קבוע, כך שאותו קלט נותן תמיד אותו רווח (ראו מהימנות בין מקודדים).

ולא לעשות טרנספורמציה לתוצאה (Field, 2024, סעיף 6.10.3 – "אל תעשו את זה"). לוגריתם או שורש כדי "לנרמל" את משתנה התוצאה: נורמליות אינה חשובה במדגם גדול, להטרוסקדסטיות יש פתרונות חסינים, והטרנספורמציה יוצרת בעיות חדשות. Field מצטט את Glass ואחרים (1972): התמורה של טרנספורמציות מנרמלות "נמוכה, ולעיתים רחוקות הן שוות את המאמץ", ואת ארבע הנקודות של Games (1984): במדגם מעל 30 בערך התפלגות הדגימה נורמלית ממילא; טרנספורמציה משנה את ההשערה – לוגריתם משווה ממוצעים גיאומטריים, לא אריתמטיים, ומודדת מבנה אחר מזה שנמדד; קשה להכריע על נורמליות במדגם קטן; וטרנספורמציה "שגויה" עלולה להזיק יותר מניתוח הנתונים הגולמיים. החריג היחיד: "יישור" של קשר עקום – טרנספורמציה של המנבא כדי שהמודל הליניארי יתאר את הקשר נכון – וזו הנחת הליניאריות, החשובה מכולן.

7. איך מדווחים

הטיפול בחריגים ובהנחות הוא חלק מפרק השיטה או מתחילת התוצאות, ומדווחים אותו כהחלטות, לא כהצטדקויות: אילו בדיקות נעשו (גרפים, ציוני תקן, צידוד וגבנוניות – לא רק "הנתונים התפלגו נורמלית"); כמה מקרים הוצאו, לפי איזה קריטריון, האם נקבע מראש, ומה התוצאה עם ובלי; איזו שיטה חסינה יושמה – "רווחי הסמך חושבו ב-bootstrap אחוזוני, 2,000 דגימות" או "שגיאות תקן HC3" – ולמה; ואם מדדים חוזרים – איזה מודל הביא את התלות בחשבון. תוצאה שהשתנתה מהותית עם הוצאת מקרה אחד היא ממצא בפני עצמו, ומדווחים אותו. Field מזכיר (הערת השוליים לסעיף 6.10.6) שחריגים מעניינים כשלעצמם: אם אינם מייצגים את האוכלוסייה, השאלה למה הם שונים יכולה להיות נושא למחקר הבא.

טעויות נפוצות

"הנתונים חייבים להתפלג נורמלית." לא הנתונים – השגיאות, ובעיקר התפלגות הדגימה; ובמדגם גדול גם זה לא. מנבא דו-ערכי "לא נורמלי" אינו בעיה בכלל.

K-S על 800 נבדקים. יהיה מובהק גם על התפלגות כמעט מושלמת, וישלח אתכם לתקן מה שאינו שבור. במדגם גדול – גרפים ותו לא.

מחיקת חריג כי הוא "מקלקל". חריג נשאר אלא אם הוכח שאינו מהאוכלוסייה. הראיה היא סיבה (אטמי אוזניים, שגיאת הקלדה), לא מרחק מהממוצע.

גזימה לפי סטיות תקן. הקריטריון מחושב מהממוצע ומסטיית התקן – ששניהם מנופחים על-ידי החריגים שרוצים לטפל בהם. גוזמים לפי אחוזים.

לוגריתם על התוצאה "כדי לנרמל". משנה את ההשערה ואת המבנה הנמדד, ובדרך כלל אינו שווה את המאמץ. טרנספורמציה שמורה ליישור המנבא.

לבדוק נורמליות ולשכוח את הליניאריות. ההנחה שמעליה אין. קשת בגרף השאריות – המודל שגוי, ושום תיקון נורמליות לא יעזור.

להחליף חסרים בממוצע. מכווץ את שגיאת התקן ומייצר מובהקות מלאכותית. מחיקה זוגית, או שיטות השלמה מבוססות-מודל – בעמוד ערכים חסרים.

t לבלתי-תלויים על מדידות חוזרות. אותם אנשים פעמיים – השגיאות תלויות, שגיאת התקן שגויה. מבחן למזווגים או מודל למדידות חוזרות.

רשימת בדיקה – לפני שמריצים מבחן

מקורות

Efron, B., & Tibshirani, R. J. (1993). An introduction to the bootstrap. Chapman & Hall. https://doi.org/10.1007/978-1-4899-4541-9

Field, A. (2024). Discovering statistics using IBM SPSS statistics (6th ed.). SAGE.