Ridge, lasso y elastic net (regresión penalizada)

En resumen

Se predice un número a partir de muchos predictores sin que el modelo se sobreajuste a rasgos casuales de la muestra: una penalización acerca los coeficientes a cero (ridge) o pone exactamente a cero los poco importantes (lasso); elastic net mezcla ambas. Se elige en «Más opciones» → «Modelo» en la pregunta «¿Se puede predecir algo?», para todas las disciplinas.

Para qué sirve

Para buenas predicciones cuando hay muchos predictores en relación con los casos o cuando están estrechamente relacionados. No para contrastar efectos individuales: tras la selección no hay valores p.

Requisitos

• Variable objetivo: un número con más de dos valores; al menos tres predictores (cuentan las columnas auxiliares de los grupos, como máximo 500); al menos 25 casos. Se permiten más predictores que casos (solo para predecir).
• Lagunas: solo casos completos. Las columnas con el mismo valor en todas partes se dejan fuera y se nombran.
• La regresión penalizada no funciona con ponderación de casos: casos idénticos estarían a la vez en el entrenamiento y en la prueba de la validación cruzada.

Cómo leer el resultado

• Una validación cruzada 5 × 10 elige la intensidad de la penalización (λ): 5 repeticiones con una partición distinta (10 subconjuntos desde 50 casos, 5 por debajo); la medida de error es el error cuadrático medio en los casos que faltaban en el ajuste. Por defecto se usa la regla del error típico único: el modelo más simple cuyo error sigue dentro del margen de fluctuación del mejor. También se puede elegir el error más pequeño.
• Tabla: el coeficiente en la escala original, el coeficiente estandarizado (comparable entre predictores), si el predictor está en el modelo y en cuántas de las repeticiones fue seleccionado. Que un predictor haya sido seleccionado no significa que sea importante.
• Gráficos: la curva del error frente a log λ (con error típico, λ min y λ 1se, arriba el número de predictores en el modelo) y la trayectoria de los coeficientes (coefficient path) estandarizados.
• Sin valores p ni intervalos de confianza: la selección y la estimación proceden de los mismos datos; las pruebas y los intervalos ordinarios serían demasiado optimistas. A propósito no hay un botón «calcular de forma ordinaria con los predictores elegidos».
• La selección de un nivel de grupo depende de qué grupo sirve de referencia. Los valores de λ solo son comparables dentro de glmnet.

Informar del resultado

Lasso (α = 1), λ = 0,417 (regla del error típico único), validación cruzada 5 × 10, MSE = 4,83 (SE = 0,53); 4 de 10 predictores en el modelo

En el texto, nombra el tipo de penalización, la regla para λ, el error de la validación cruzada y la palabra «predicción», no «efecto».