Abbiamo $$ \ begin {align *} R ^ 2 = 1 - \ frac {\ sum {e_i ^ 2}} {\ sum {(y_i - \ bar {y}) ^ 2}} = 1 - \ frac {e ^ \ prime e} {\ tilde {y} ^ \ prime \ tilde {y}}, \ end {align *} $$ dove $ \ tilde {y} $ è un vettore $ y $ sminuito.

Ricorda che $ \ hat {\ beta} = (X ^ \ prime X) ^ {- 1} X ^ \ prime y $, implicando che $ e = y - X \ hat {\ beta} = y - X (X ^ \ prime X) ^ {- 1} X ^ \ prime y $. La regressione su un vettore di 1s, scritto come $ l $, fornisce la media di $ y $ poiché il valore previsto e i residui di quel modello producono valori $ y $ sminuiti; $ \ tilde {y} = y - \ bar {y} = y - l (l ^ \ prime l) ^ {- 1} l ^ \ prime y $.

Sia $ H = X ( X ^ \ prime X) ^ {- 1} X ^ \ prime $ e sia $ M = l (l ^ \ prime l) ^ {- 1} l ^ \ prime $, dove $ l $ è un vettore di 1. Inoltre, sia $ I $ una matrice di identità della dimensione richiesta. Quindi abbiamo

$$ \ begin {align *} R ^ 2 & = 1- \ frac {e ^ \ prime e} {\ tilde {y} ^ \ prime \ tilde {y}} \ \ & = 1 - \ frac {y ^ \ prime (I - H) ^ \ prime (IH) y} {y ^ \ prime (I - M) ^ \ prime (IM) y} \\ & = 1 - \ frac {y ^ \ prime (IH) y} {y ^ \ prime (IM) y}, \ end {align *} $$

dove la seconda riga deriva dal fatto che $ H $ e $ M $ (e $ I $) sono idempotenti.

Nel caso ponderato, sia $ \ Omega $ la matrice di ponderazione utilizzata nella funzione obiettivo OLS, $ e ^ \ prime \ Omega e $. Inoltre, sia $ H_w = X \ Omega ^ {1/2} (X ^ \ prime \ Omega X) ^ {- 1} \ Omega ^ {1/2} X ^ \ prime $ e $ M_w = l \ Omega ^ {1/2} (l ^ \ prime \ Omega l) ^ {- 1} \ Omega ^ {1/2} l ^ \ prime $. Quindi, $$ \ begin {align *} R ^ 2 & = 1 - \ frac {y ^ \ prime \ Omega ^ {1/2} (I-H_w) \ Omega ^ {1/2} y} {y ^ \ prime \ Omega ^ {1/2} (I-M_w) \ Omega ^ {1/2} y}, \ end {align *} $$

Puoi scrivere il coefficiente di determinazione come una semplice forma quadratica dei valori di correlazione tra le singole variabili (vedi questa risposta per i dettagli). Considera un regressione lineare multipla con $ m $ vettori esplicativi e un termine di intercetta. Lascia che $ r_i = \ mathbb {Corr} (\ mathbf {y}, \ mathbf {x} _i) $ e $ r_ {i, j} = \ mathbb {Corr} (\ mathbf {x} _i, \ mathbf {x} _j) $ e definisci:

$$ \ boldsymbol {r} _ {\ mathbf {y}, \ mathbf {x}} = \ begin {bmatrix} r_1 \\ r_2 \\ \ vdots \\ r_m \ end {bmatrix} \ quad \ quad \ quad \ boldsymbol {r} _ {\ mathbf {x}, \ mathbf {x}} = \ begin {bmatrix} r_ {1,1} & r_ {1,2} & \ cdots & r_ {1, m} \\ r_ {2,1} & r_ {2,2} & \ cdots & r_ {2, m} \\ \ vdots & \ vdots & \ ddots & \ vdots \\ r_ {m, 1} & r_ {m, 2} & \ cdots & r_ {m, m} \\ \ end {bmatrix}. $$

Con un po 'di algebra lineare si può dimostrare che:

$$ R ^ 2 = \ boldsymbol {r} _ {\ mathbf {y}, \ mathbf {x}} ^ \ text {T} \ boldsymbol {r} _ {\ mathbf {x}, \ mathbf {x}} ^ {- 1} \ boldsymbol {r} _ {\ mathbf {y}, \ mathbf {x}}. $$

La radice quadrata del coefficiente di determinazione fornisce il coefficiente di correlazione multipla, che è un'estensione multivariata della correlazione assoluta.