Ridge, lasso és elastic net (büntetett regresszió)

Röviden

Egy számot sok prediktorból jelzünk előre úgy, hogy a modell nem illeszkedik túl a minta véletlen sajátosságaihoz: a büntetés nullához húzza az együtthatókat (ridge), vagy a lényegtelenek értékét pontosan nullára állítja (lasso); az elastic net a kettőt keveri. A „További beállítások” → „Modell” alatt választható az „Előre jelezhető valami?” kérdésben, minden szakterületre.

Mire jó

Jó előrejelzésekhez, ha sok a prediktor az esetekhez képest, vagy ha szorosan összefüggenek. Nem egyes hatások tesztelésére: a kiválasztás után nincsenek p-értékek.

Feltételek

• Célváltozó: kettőnél több értékű szám; legalább három prediktor (a csoportok segédoszlopai is számítanak, legfeljebb 500); legalább 25 eset. Több prediktor is lehet, mint eset (csak előrejelzésre).
• Hiányok: csak teljes esetek. Az olyan oszlopokat, amelyekben mindenhol ugyanaz az érték áll, kihagyjuk és megnevezzük.
• A büntetett regresszió (penalized regression) nem működik esetsúllyal: azonos esetek egyszerre szerepelnének a kereszt-érvényesítés tanuló és tesztelő részében.

Az eredmény értelmezése

• Egy 5 × 10-szeres kereszt-érvényesítés választja ki a büntetés erősségét (λ): 5 ismétlés más felosztással (50 esettől 10 részhalmaz, az alatt 5); a hibamérték az illesztésből kimaradt eseteken mért átlagos négyzetes hiba. Alapértelmezés az egy-standardhiba-szabály: a legegyszerűbb modell, amelynek hibája még a legjobb ingadozási sávjában van. A legkisebb hiba is választható.
• Táblázat: az együttható az eredeti skálán, a standardizált együttható (a prediktorok között összehasonlítható), hogy a prediktor a modellben van-e, és az ismétlések közül hányban választották ki. Az, hogy egy prediktort kiválasztottak, nem jelenti azt, hogy fontos.
• Ábrák: a hiba görbéje a log λ függvényében (standard hibával, λ min és λ 1se értékkel, fent a modellben lévő prediktorok száma) és a standardizált együtthatók útvonala (coefficient path).
• Nincs p-érték és nincs megbízhatósági intervallum: a kiválasztás és a becslés ugyanazokból az adatokból származik; a szokásos tesztek és intervallumok túl optimisták lennének. Szándékosan nincs „számolás a megszokott módon a választott prediktorokkal” gomb.
• Egy csoportszint (group level) kiválasztása attól függ, melyik csoport szolgál viszonyítási alapként. A λ értékei csak a glmneten belül hasonlíthatók össze.

Az eredmény közlése

Lasso (α = 1), λ = 0,417 (egy-standardhiba-szabály), 5 × 10-szeres kereszt-érvényesítés, MSE = 4,83 (SE = 0,53); 10 prediktorból 4 van a modellben

A szövegben nevezd meg a büntetés fajtáját, a λ szabályát, a kereszt-érvényesítés hibáját és az „előrejelzés” szót - nem a „hatás” szót.