Mixed Models – Interaktiv (LMM & GLMM)

Mixed Model = Fixed Effects (gleich für alle Gruppen) + Random Effects (gruppenspezifische Abweichungen, die Information zwischen Gruppen teilen)

🚀 So startest du In 3 Schritten zu eigenen Ergebnissen.

1 Likelihood wählenPassende Verteilung für deine Daten.

›

2 Pooling vergleichenPartial, No und Complete Pooling umschalten.

›

3 Gruppenunterschiede lesenEffekte unten vergleichen, Shrinkage erkennen.

⚠ Illustrations-Tool: Schätzungen via IRLS + Method-of-Moments — keine Laplace-Approximation (lme4/glmmTMB). Richtung und Größenordnung stimmen, exakte Werte weichen ab.

Likelihood— Verteilung der Daten

Pooling— Gruppenstruktur

Fixed Effects

γ₀₀ · Grand Intercept2.00

γ₁₀ · Fixed Slope0.60

Random Effects

τ₀ · SD Random Intercept1.00

τ₁ · SD Random Slope0.30

ρ · Korrelation u₀↔u₁0.00

          ρ>0: Gruppen mit hohem Intercept haben steilen Slope (Fan-out)

          ρ<0: Gruppen mit hohem Intercept haben flachen Slope (Fan-in)

σ · Residual SD0.60

Datengenerierung

Gruppen J5

Beob. pro Gruppe n_j12

x-Bereich±3.0

x-Gruppen-Versatz (Simpson) 0.0

n_j-Unbalance (Gruppengrößen) 0.0

          0 = alle Gruppen gleich groß. Details → Hilfe.
        

N = 60

Modellformel

–

HAUPTPLOT — DATEN & REGRESSIONSLINIEN

Partial Pooling: Gruppenlinien mit Shrinkage

⚠Simpson-Risiko: Complete-Pooling-Linie zeigt eine andere Richtung als die gruppeninternen Effekte — Gruppenstruktur nicht ignorieren!

RANDOM EFFECTS

Gruppenintercepts — No-Pooling vs. Partial-Pooling

SHRINKAGE-DIAGRAMM

No Pooling vs. Partial Pooling Intercepts

          Wie lesen? Jede Zeile = eine Gruppe, sortiert nach No-Pooling-Intercept (oben = größter). ○ = No-Pooling  ·  ● = Partial-Pooling. Pfeil zeigt Richtung und Stärke der Shrinkage zum GLMM Fixed Effect (γ₀₀, gestrichelt).
            ·  ⚡ = Ausreißer-Gruppe
        

MODELL-ERGEBNISSE

Geschätzte Parameter & Kennzahlen

Lernkarten — Vertiefende Konzepte

ICC — Intraklassen-Korrelation

ICC = τ₀² / (τ₀² + σ²)

Der Anteil der Gesamtvarianz, der zwischen Gruppen liegt. Faustregel: ICC > 0.05 → LMM ist notwendig, da Beobachtungen innerhalb einer Gruppe nicht unabhängig sind.

Aber Vorsicht: Solche Schwellenwerte sind nur grobe Daumenregeln. Bliese (1998) konnte zeigen, dass auch deutlich kleinere ICCs bereits zu Verzerrungen führen können, sobald eine Clusterstruktur vorliegt — eine verlässliche "sichere" Untergrenze gibt es nicht.

Praktischer Tipp: Der Trade-off fällt in aller Regel zugunsten des LMM aus. Wer weiß, dass eine Clustervariable existiert, ist daher meist gut beraten, direkt ein LMM statt Complete Pooling zu verwenden — selbst wenn der ICC später klein ausfällt, entstehen dadurch kaum Nachteile.

Wichtig: Der ICC ist selbst kein Parameter, den das LMM schätzt — er ist nur ein nachträglich aus τ₀ und σ berechneter Hilfswert, um die Stärke des Clusterings grob abzuschätzen. Das Modell selbst "kennt" nur τ₀ (Streuung der Gruppen-Intercepts) und berücksichtigt genau dieses τ₀ direkt über die Random Effects — unabhängig davon, ob man den ICC überhaupt ausrechnet. Ist τ₀ groß (und damit der ICC hoch), zieht das LMM entsprechend wenig zum Gesamtmittel (schwache Shrinkage); ist τ₀ dagegen ≈ 0 (ICC ≈ 0), liefern LMM und Complete Pooling in aller Regel sehr ähnliche Ergebnisse, weil dann kaum echte Gruppenunterschiede vorliegen, die das Partial Pooling berücksichtigen müsste.

GLMM — Wann welche Likelihood?

Das Mixed-Model-Prinzip gilt für alle Verteilungsfamilien:

Gaussian (LMM): Stetige, symmetrische AV. y ~ Normal(μ, σ)

Poisson (GLMM): Zähldaten (0, 1, 2, …). Log-Link: log(λ) = η — λ bleibt positiv.

Gamma (GLMM): Positive, rechtsschiefe Daten (Reaktionszeiten, Kosten). Log-Link.

Logistisch (GLMM): Binäre AV (0/1). Logit-Link: log(p/(1−p)) = η — p bleibt in (0,1).

In brms: family = poisson(), family = Gamma(link="log"), family = bernoulli()

Random Intercept vs. Intercept + Slope

Random Intercept (τ₀ > 0): Gruppen unterscheiden sich in ihrem Ausgangsniveau — parallele Linien mit verschiedenen y-Achsenabschnitten.
Formel: y ~ x + (1|Gruppe)

Random Intercept + Slope (τ₀, τ₁ > 0): Gruppen haben auch unterschiedliche Steigungen — kein Fan-Out oder Fan-In.
Formel: y ~ x + (1+x|Gruppe)

Der Parameter ρ steuert die Korrelation: ρ > 0 → Gruppen mit hohem Intercept haben auch steilen Slope (Fan-out). ρ < 0 → Linien kreuzen sich (Fan-in).

Hinweis zu No Pooling: Bei „Random Intercept" wird dort mit gemeinsamer Steigung verglichen (y ~ x + Gruppe) — passend zur RE-Struktur (1|Gruppe). Gruppenspezifische Steigungen (y ~ x * Gruppe) gibt es erst unter „Intercept + Slope".

Simpson's Paradoxon

Wenn x mit der Gruppenzugehörigkeit korreliert (x-Gruppen-Versatz > 0), kann der marginale Trend (Complete Pooling über alle Daten) dem gruppeninternen Trend entgegengesetzt sein.

Beispiel: Innerhalb jeder Gruppe steigt y mit x — aber Gruppen mit hohem x haben auch niedrigere Intercepts. Die Complete-Pooling-Linie sieht einen negativen Gesamttrend, obwohl der wahre Effekt positiv ist.

Lösung: Partial Pooling trennt den Within-Group-Effekt (γ₁₀) vom Between-Group-Effekt.

Shrinkage

Shrinkage-Faktor λ = τ₀² / (τ₀² + σ²/n_j)

Bestimmt, wie stark die gruppenspezifische Schätzung zum GLMM Fixed Effect gezogen wird. Bei kleinem n_j oder kleinem τ₀ → starke Shrinkage. Im Shrinkage-Diagramm sichtbar als Pfeillänge.

ℹ (G)LMM Interaktiv — Hilfe

Was lerne ich hier?

Wenn Daten eine Gruppenstruktur haben (Personen, Schulen, Kliniken), sind einfache Regressionen problematisch — Beobachtungen innerhalb einer Gruppe sind nicht unabhängig. Mixed Models lösen das durch Random Effects: jede Gruppe bekommt einen eigenen Intercept u₀ⱼ, der aus einer gemeinsamen Verteilung N(0, τ₀) stammt.

Empfohlene Erkundung

Mit Partial Pooling starten — das ist das LMM/GLMM
No Pooling vs. Complete Pooling vergleichen — wo divergieren die Linien?
τ₀ (Random-Effect-SD) variieren — ab wann ist Shrinkage sichtbar?
⚡ Ausreißer-Gruppe zuschalten — wie reagiert jede Pooling-Strategie?
Anzahl der Gruppen J und Gruppengrößen n_j variieren — wie verändert sich das Shrinkage?
AIC/BIC in den Modellergebnissen vergleichen — wann schneidet Partial Pooling besser ab als No/Complete Pooling?
⚠ Simpson-Preset laden und Complete Pooling beobachten — warum ist Partial Pooling hier unverzichtbar?

Die wichtigsten Panels

Gruppenlinien: Fixed Effect (γ₀₀ + γ₁₀·x) + gruppenspezifische Abweichung u₀ⱼ — Partial Pooling schrumpft alle Linien zum GLMM Fixed Effect

Shrinkage-Diagramm: No-Pooling-Schätzung → Partial-Pooling-Schätzung; Pfeile zeigen die Zugkraft. Gruppen mit kleinem n werden stärker gezogen.

ICC-Balken: τ₀²/(τ₀²+σ²) — Anteil der Varianz zwischen Gruppen. ICC > 0.05 signalisiert, dass ein Mixed Model nötig ist.

R²_marginal / R²_conditional: R²_marginal erklärt nur über die Fixed Effects, R²_conditional zusätzlich über die Gruppenstruktur (Random Effects) — die Differenz zeigt deren Erklärungsbeitrag. Beide Werte beziehen sich immer auf das GLMM selbst und ändern sich nicht mit der Pooling-Strategie.

Simpson-Warnung: erscheint, wenn Complete Pooling die Richtung des Slopes umkehrt — das klassische Simpson's Paradoxon.

n_j-Unbalance & Slope-Vergleich

Der Regler n_j-Unbalance (Datengenerierung) lässt die Gruppengrößen linear variieren (0 = alle Gruppen gleich groß). Das macht sichtbar, dass GLMM Fixed Effect (Partial Pooling) und No-Pooling Grand Mean bei gleich großen Gruppen immer identisch sind — erst bei ungleichen n_j laufen sie auseinander.

Grand Mean (No Pooling): einfaches n_j-gewichtetes Mittel der unabhängigen Gruppen-Schätzer — große Gruppen zählen automatisch mehr.
GLMM Fixed Effect (Partial Pooling): präzisionsgewichtet (Gewicht ∝ n_j/(n_j·τ₀²+V₁)) — der tatsächliche Shrinkage-Zielpunkt. Bei dominanter Between-Varianz (τ₀² groß) zählt jede Gruppe fast gleich viel, unabhängig von ihrer Größe.

Die Tabelle Slope-Vergleich (unter Modellvergleich) zeigt beide Werte zusammen mit dem Complete-Pooling-Slope — jede Zeile in der Farbe ihrer Linie im Hauptplot.

GLM-Familien

Gaussian: stetige Daten — klassisches LMM
Poisson: Zähldaten (0,1,2,…) — Log-Link
Gamma: positive stetige Daten — Log-Link
Logistisch: 0/1-Daten — Logit-Link

Weiterführende Literatur

McElreath (2020) — hierarchische Modelle, Bayesianischer Workflow
Gelman, Hill & Vehtari (2020) — Regression and Other Stories
Finch & Bolin (2024) — Mehrebenenmodelle in R