Peut-on prédire quelque chose ? (régression linéaire et logistique)

En bref

Un nombre doit être prédit à partir d’une ou plusieurs autres colonnes (régression linéaire simple ou multiple). Si la colonne cible a exactement deux valeurs (oui/non), Statable calcule automatiquement une régression logistique binaire. Prédire ne veut pas dire causer.

Linéaire : conditions

• Variable dépendante : nombres ; prédicteurs : nombres ou colonnes de groupes (texte, niveau « nominal » ou étiquettes de valeur ; 2 à 12 groupes). Statable calcule les colonnes de groupes comme des comparaisons avec le premier groupe (colonnes auxiliaires 0/1, codage indicateur) ; les colonnes ordonnées (niveau « ordinal ») entrent comme des nombres.
• Relation à peu près linéaire, pas de valeurs aberrantes extrêmes, prédicteurs pas trop fortement liés entre eux.
• Plus de personnes que de prédicteurs plus 2 ; nettement plus, c’est mieux.

Linéaire : lire le résultat

R² est la proportion de variance expliquée. Pour chaque prédicteur, B montre de combien la variable dépendante diffère en moyenne quand le prédicteur est supérieur d’une unité et que les autres prédicteurs restent constants (avec intervalle de confiance et p) ; β rend comparables les prédicteurs numériques d’unités différentes. Pour une colonne de groupes, B montre l’écart de chaque groupe par rapport au groupe de référence ; le test global (ΔR², F) vérifie si la colonne contribue dans son ensemble. Son β n’est pas un classement.

R² = ,21, F(2, 117) = 15,6, p < ,001 ; B = 0,42, IC à 95 % [0,22 ; 0,62]

Cible à deux valeurs : régression logistique

Avec deux valeurs, une régression linéaire donnerait des prédictions impossibles en dessous de 0 et au-dessus de 1. Ce qui est modélisé, ce sont les odds de la valeur au codage le plus élevé (pour les nombres le plus grand, pour le texte celui qui vient plus tard dans l’ordre alphabétique) ; la phrase nomme les deux valeurs.

• Odds ratio (OR) par prédicteur avec un intervalle de confiance à 95 % : la cote (odds) est multipliée par ce facteur quand le prédicteur augmente de un ; pour une colonne de groupes, par rapport au groupe de référence, avec un test du rapport de vraisemblance comme test global. 1 signifie aucune relation ; si 1 se trouve dans l’intervalle, une relation n’est pas établie. Un OR ne signifie pas « x fois plus probable ».
• R² de Nagelkerke (0 à 1) et test du modèle χ² : vérifie si le modèle sépare mieux qu’un modèle sans prédicteurs.
• Taux de réussite à côté du taux qu’atteindrait le groupe le plus fréquent à lui seul ; un taux élevé vaut peu si un groupe est de toute façon beaucoup plus grand.
• Au moins 10 observations par prédicteur dans le plus petit groupe, sinon « Peu d’observations » apparaît. Des valeurs très grandes (|B| > 15) laissent penser à des groupes presque parfaitement séparés ; le modèle n’est alors pas fiable.

χ²(3) = 11,24, p = ,010, R² de Nagelkerke = ,12 ; OR = 1,05, IC à 95 % [1,02 ; 1,09]

Pour les spécialistes

L’intervalle de confiance de l’OR est un intervalle de Wald. PSPP n’affiche pas le test du modèle ; Statable le déduit des valeurs de −2 log-vraisemblance. Règle empirique sur les observations : Peduzzi et al. (1996).

Cible avec niveaux, catégories ou comptages

• Niveaux ordonnés (par exemple la satisfaction de « faible » à « élevée ») : régression ordinale. Statable la propose pour le niveau « ordinal » et 3 à 10 niveaux ; on la choisit sous « Plus d’options » → « Modèle ».
• Catégories sans ordre (texte ou groupes étiquetés avec trois niveaux ou plus) : régression multinomiale. La catégorie de référence se trouve sous « Plus d’options ».
• Comptages (nombres entiers à partir de 0, par exemple jours d’absence) : régression de comptage, Poisson ou binomiale négative, avec temps d’observation sur demande. Statable la propose lorsque les valeurs ressemblent à des comptages.
• R calcule ces méthodes dans le navigateur ; il est chargé la première fois. Les blocs (régression hiérarchique) n’existent qu’avec le modèle linéaire.

Exemples typiques

• Résultat à l’examen en fonction du temps de travail et du sentiment d’efficacité personnelle : régression linéaire.
• Réussite ou non en fonction du temps de travail et des connaissances préalables : régression logistique.
• Loyer en fonction de la surface et de l’âge du bâtiment : régression linéaire multiple.