Kan iets worden voorspeld? (lineaire en logistische regressie)

Kort

Een getal moet worden voorspeld uit een of meer andere kolommen (enkelvoudige of meervoudige lineaire regressie). Heeft de doelkolom precies twee waarden (ja/nee), dan berekent Statable automatisch een binaire logistische regressie. Voorspellen is niet hetzelfde als veroorzaken.

Lineair: voorwaarden

• Afhankelijke variabele: getallen; voorspellers: getallen of groepskolommen (tekst, niveau “nominaal” of waardelabels; 2 tot 12 groepen). Statable berekent groepskolommen als vergelijkingen met de eerste groep (0/1-hulpkolommen, dummycodering); geordende kolommen (niveau “ordinaal”) gaan als getal in de berekening.
• Ongeveer lineaire samenhang, geen extreme uitschieters, voorspellers niet te sterk onderling samenhangend.
• Meer personen dan voorspellers plus 2; duidelijk meer is beter.

Lineair: de uitkomst lezen

R² is het aandeel verklaarde variantie. Per voorspeller laat B zien hoeveel de afhankelijke variabele gemiddeld verschilt als de voorspeller één eenheid hoger is en de overige voorspellers gelijk blijven (met betrouwbaarheidsinterval en p); β maakt numerieke voorspellers met verschillende eenheden vergelijkbaar. Bij een groepskolom laat B het verschil van elke groep met de referentiegroep zien; of de kolom als geheel bijdraagt, wordt getoetst met de totaaltoets (ΔR², F). De β ervan is geen rangorde.

R² = ,21, F(2, 117) = 15,6, p < ,001; B = 0,42, 95%-BI [0,22; 0,62]

Doel met twee waarden: logistische regressie

Bij twee waarden zou een lineaire regressie onmogelijke voorspellingen geven onder 0 en boven 1. Gemodelleerd worden de odds van de waarde met de hogere codering (bij getallen de grotere, bij tekst de alfabetisch latere); de zin noemt beide waarden.

• Odds ratio (OR) per voorspeller met een 95%-betrouwbaarheidsinterval: de odds veranderen met deze factor als de voorspeller met één stijgt; bij een groepskolom ten opzichte van de referentiegroep, met een likelihood-ratiotoets als totaaltoets. 1 betekent geen samenhang; ligt 1 binnen het interval, dan is een samenhang niet aangetoond. Een OR is niet “x keer zo waarschijnlijk”.
• R² van Nagelkerke (0 tot 1) en modeltoets χ²: toetst of het model beter scheidt dan een model zonder voorspellers.
• Het percentage juiste indelingen staat naast het percentage dat de grootste groep alleen al zou halen; een hoog percentage zegt weinig als één groep sowieso veel groter is.
• Minstens 10 gevallen per voorspeller in de kleinere groep, anders verschijnt “Weinig gevallen”. Zeer grote waarden (|B| > 15) wijzen op bijna perfect gescheiden groepen; het model is dan onbetrouwbaar.

χ²(3) = 11,24, p = ,010, Nagelkerke R² = ,12; OR = 1,05, 95%-BI [1,02; 1,09]

Voor specialisten

Het betrouwbaarheidsinterval van de OR is een Wald-interval. PSPP drukt de modeltoets niet af; Statable leidt hem af uit de −2-log-likelihoodwaarden. Vuistregel voor het aantal gevallen: Peduzzi et al. (1996).

Doel met niveaus, categorieën of tellingen

• Geordende niveaus (bijvoorbeeld tevredenheid van “laag” tot “hoog”): ordinale regressie. Statable stelt haar voor bij niveau “ordinaal” en 3 tot 10 niveaus; je kiest haar onder “Meer opties” → “Model”.
• Categorieën zonder volgorde (tekst of gelabelde groepen met drie of meer niveaus): multinomiale regressie. De referentiecategorie staat onder “Meer opties”.
• Tellingen (gehele getallen vanaf 0, bijvoorbeeld dagen afwezig): regressie voor teldata, Poisson of negatief-binomiaal, op verzoek met observatietijd. Statable stelt haar voor wanneer de waarden op tellingen lijken.
• R berekent deze methoden in de browser; het wordt de eerste keer geladen. Blokken (hiërarchische regressie) bestaan alleen bij het lineaire model.

Typische voorbeelden

• Examenprestatie uit studietijd en zelfeffectiviteit: lineaire regressie.
• Geslaagd of niet uit studietijd en voorkennis: logistische regressie.
• Huur uit woonoppervlak en leeftijd van het gebouw: meervoudige regressie.