• Die meisten inferenzstatistischen Tests gehören zur Klasse der linearen Modelle.
• Beispiele
• Regression
• t-Test
• Varianzanalyse (ANOVA)
• Mediationsanalyse
• Faktorenanalyse
• Strukturgleichungsmodelle

• Korrelationsmasse drücken aus, wie stark Veränderungen in einer Variable mit Veränderungen in einer anderen Variable einhergehen.
• Beispiele
• Produkt-Moment Korrelation
• Rangkorrelation
• Phi-koeffizient

$$\large r_{xy} = \frac{\sum_i (x_i - \bar{x})(y_i - \bar{y})}{(n-1)s_xs_y}$$

• Korrelationsmasse drücken aus, wie stark Veränderungen in einer Variable mit Veränderungen in einer anderen Variable einhergehen.
• Beispiele
• Produkt-Moment Korrelation
• Rangkorrelation
• Phi-koeffizient

$$\large r_{xy} = \frac{\sum_i (x_i - \bar{x})(y_i - \bar{y})}{(n-1)s_xs_y}$$

• Die lineare Regression ist eine gerichtete Zusammenhangsanalyse.
• Ein Kriterium soll durch einen (einfach) oder mehrere (multiple) Prädiktoren modelliert werden.
• Getestet wird ob und wie sehr der Prädiktor / die Prädiktoren das Kriterium erklären.

• Wie gut sagt eine lineare Funktion des Prädiktors (x) das Krierium (y) vorher?
• Parameter:
• β₀: Intercept oder y-Achsenabschnitt
• β₁: Slope oder Steigung

$$\Large \hat{y} = b_0 + b_1 * x$$

• Wie gut sagt eine lineare Funktion des Prädiktors (x) das Krierium (y) vorher?
• Parameter:
• β₀: Intercept oder y-Achsenabschnitt
• β₁: Slope oder Steigung

$$\Large \hat{Nächte} = b_0 + b_1 * Äquiv.eink.$$

• Die Parameter, β₀ und β₁ müssen aus den Daten geschätzt werden.
• Die Schätzung basiert auf dem Kleinsten-Quadrate Kriterium.

$$\Large b_1 = r_{xy} \cdot \frac{s_y}{s_x}$$ $$\Large b_0 = \bar{y} + b_1 \cdot \bar{x}$$

• Die Residuen e sind der Fehler den die Regreessionsfunktion in der Vorhersage ŷ des Kriteriums macht.
• Mittels der Residuen kann die Qualität der Vorhersage evaluaiert werden.

$$\Large e = y - \hat{y}$$

• Die Qualität einer Regression wird über die Summe der Quadrate der Residuen bestimmt.
• Die Parameter b=[b₀, b₁] werden so gewählt, so dass die Quadrate der Residuen minimal sind.

$$\large \mathbf{b} = \underset{\mathbf{b}}{\operatorname{argmin}} \sum_i e_{\mathbf{b}}^2$$

• Die Qualität einer Regression wird über die Summe der Quadrate der Residuen bestimmt.
• Die Parameter b=[b₀, b₁] werden so gewählt, so dass die Quadrate der Residuen minimal sind.

$$\large \mathbf{b} = \underset{\mathbf{b}}{\operatorname{argmin}} \sum_i e_{\mathbf{b}}^2$$

• Die Qualität einer Regression wird über die Summe der Quadrate der Residuen bestimmt.
• Der inverse Wert, d.h., eins minus die Summe der Residualquadrate, is als R-Quadrat definiert.

$$\large R^2 = 1 - \frac{\sum_i e^2}{\sum_i (y - \bar{y})^2}\\ \;\;\;\;\; \large =1 - \frac{\sum_i (y - \hat{y})^2}{\sum_i (y - \bar{y})^2}$$

• Wie beschreiben mehrere linear verknüpfte Prädiktoren (x) zusammen das Krierium (y)?
• Parameter:
• β₀: Intercept oder y-Achsenabschnitt
• β₁: Slope für x₁
• β₂: Slope für x₂
• β_k: Slope für x_k

$$\Large \hat{y} = b_0 + b_1 \cdot x_1 + ... b_k \cdot x_k$$

• Die Schätzung basiert auf dem Kleinsten-Quadrate Kriterium.

$$\Large b_1 = \frac{r_{x_1y}-r_{x_2y}r_{x_2x_1}}{1-r_{x_2x_1}^2} \cdot \frac{s_y}{s_{x_1}}$$ $$\Large b_2 = \frac{r_{x_2y}-r_{x_1y}r_{x_1x_2}}{1-r_{x_1x_2}^2} \cdot \frac{s_y}{s_{x_2}}$$

$$\Large b_0 = \bar{y} + b_1 \cdot \bar{x_1} + b_2 \cdot \bar{x_2}$$

• Gemäss dem Datenmodell der Regression folgen die Kriteriumswerte einer Normalverteilung um den vorhergesagten Wert

$$\Large y \sim \mathcal{N}(\hat{y}, \sigma_e)$$

$$\large p(x|\mu, \sigma) = \frac{1}{\sigma \sqrt 2\pi}e^{-(x-\mu)/2\sigma^2}$$

• Die Betagewichte folgen einer t-Verteilung.
• Die Verteilung hängt von Freiheitsgraden ν ab.

$$\Large t_\nu=\frac{\beta_j}{\sigma_{\beta_j}}$$

$$\Large \nu = n - k - 1$$

• Der Standardfehler σ_β bezieht die Interkorrelation aller Prädiktoren mit ein.

• Der Test vergleicht den beobachteten t-Wert mit entweder...
• Einseitig: t_α
• Zweiseitig: t_α/2

$$\Large t_\nu=\frac{\beta_j}{\sigma_{\beta_j}}>t_{\nu,\alpha}$$

$$\Large t_\nu=\frac{\beta_j}{\sigma_{\beta_j}}>t_{\nu,\frac{\alpha}{2}}$$

• Modelle in R werden über formulas definiert.

Syntax

Fitting

Fitting

Fitting

Fitting