Lässt sich etwas vorhersagen? (lineare und logistische Regression)

Kurz

Eine Zahl soll aus einer oder mehreren anderen Spalten vorhergesagt werden (einfache bzw. multiple lineare Regression). Hat die Zielspalte genau zwei Werte (ja/nein), rechnet Statable automatisch eine binäre logistische Regression. Vorhersagen heißt nicht verursachen.

Linear: Voraussetzungen

• Abhängige Variable: Zahlen; Prädiktoren: Zahlen oder Gruppen-Spalten (Text, Niveau „nominal“ oder Wertebeschriftungen; 2 bis 12 Gruppen). Gruppen-Spalten rechnet Statable als Vergleiche mit der ersten Gruppe (0/1-Hilfsspalten, Dummy-Kodierung); geordnete Spalten (Niveau „ordinal“) gehen als Zahl ein.
• Annähernd linearer Zusammenhang, keine extremen Ausreißer, Prädiktoren nicht zu stark untereinander verbunden.
• Mehr Personen als Prädiktoren plus 2; deutlich mehr ist besser.

Linear: Ergebnis lesen

R² ist der Anteil der erklärten Streuung. Je Prädiktor zeigt B, um wie viel sich die abhängige Variable im Schnitt unterscheidet, wenn der Prädiktor um eine Einheit höher ist und die übrigen Prädiktoren gleich bleiben (mit Konfidenzintervall und p); β macht Zahlen-Prädiktoren mit verschiedenen Einheiten vergleichbar. Bei einer Gruppen-Spalte zeigt B den Unterschied jeder Gruppe zur Vergleichsgruppe; ob die Spalte als Ganzes beiträgt, prüft der Gesamttest (ΔR², F). Ihr β ist keine Rangfolge.

R² = ,21, F(2, 117) = 15,6, p < ,001; B = 0,42, 95 %-KI [0,22; 0,62]

Zielspalte mit zwei Werten: logistische Regression

Bei zwei Werten würde eine lineare Regression unmögliche Vorhersagen unter 0 und über 1 liefern. Modelliert wird die Chance (Odds) für den Wert mit der höheren Kodierung (bei Zahlen der größere, bei Text der alphabetisch spätere); der Satz nennt beide Werte.

• Odds Ratio (OR) je Prädiktor mit 95 %-Konfidenzintervall: Um diesen Faktor ändert sich die Chance, wenn der Prädiktor um eins steigt; bei einer Gruppen-Spalte gegenüber der Vergleichsgruppe, Gesamttest als Likelihood-Quotienten-Test. 1 heißt kein Zusammenhang; liegt 1 im Intervall, ist ein Zusammenhang nicht belegt. Ein OR ist kein „x-mal wahrscheinlicher“.
• Nagelkerkes R² (0 bis 1) und Modelltest χ²: prüft, ob das Modell besser trennt als eines ohne Prädiktoren.
• Trefferquote neben der Quote, die allein durch die häufigere Gruppe erreicht würde; eine hohe Quote ist wenig wert, wenn eine Gruppe ohnehin viel größer ist.
• Mindestens 10 Fälle je Prädiktor in der kleineren Gruppe, sonst erscheint „Wenige Fälle“. Sehr große Werte (|B| > 15) deuten auf fast vollständig getrennte Gruppen; das Modell ist dann unzuverlässig.

χ²(3) = 11,24, p = ,010, Nagelkerke R² = ,12; OR = 1,05, 95 %-KI [1,02; 1,09]

Für Fachleute

Das Konfidenzintervall des OR ist ein Wald-Intervall. PSPP gibt den Modelltest nicht aus; Statable bildet ihn aus den −2-Log-Likelihood-Werten. Fallzahl-Faustregel: Peduzzi et al. (1996).

Zielspalte mit Stufen, Kategorien oder Zählungen

• Geordnete Stufen (zum Beispiel Zufriedenheit von „niedrig“ bis „hoch“): ordinale Regression. Statable schlägt sie bei Niveau „ordinal“ und 3 bis 10 Stufen vor; gewählt wird sie unter „Weitere Wege“ → „Modell“.
• Kategorien ohne Ordnung (Text oder beschriftete Gruppen mit drei und mehr Stufen): multinomiale Regression. Die Vergleichskategorie steht unter „Weitere Wege“.
• Zählungen (ganze Zahlen ab 0, zum Beispiel Fehltage): Zähldaten-Regression, Poisson oder negativ-binomial, auf Wunsch mit Beobachtungszeit. Statable schlägt sie vor, wenn die Werte nach Zählungen aussehen.
• Diese Verfahren rechnet R im Browser; beim ersten Mal wird es geladen. Blöcke (hierarchische Regression) gibt es nur mit dem linearen Modell.

Typische Beispiele

• Prüfungsleistung aus Lernzeit und Selbstwirksamkeit: lineare Regression.
• Bestanden oder nicht aus Lernzeit und Vorkenntnissen: logistische Regression.
• Wohnungsmiete aus Fläche und Alter des Hauses: multiple Regression.