Quali proprietà utili ha la funzione di collegamento canonico?

8

Quindi qui sto studiando modelli lineari generalizzati. So che questa domanda è abbastanza ingenua e semplice, ma non so esattamente perché la funzione canonica di collegamento sia così utile. Qualcuno potrebbe fornirmi un'intuizione su questo problema?

— user1337
fonte

9

So che questa domanda è abbastanza ingenua e semplice, ma non so esattamente perché la funzione canonica di collegamento sia così utile

È davvero così utile? Una funzione di collegamento che è canonica è principalmente una proprietà matematica. Semplifica in qualche modo la matematica, ma nella modellazione dovresti comunque utilizzare la funzione di collegamento scientificamente significativa.

Quindi quali proprietà extra ha una funzione di collegamento canonico?

Conduce all'esistenza di statistiche sufficienti. Ciò potrebbe implicare una stima un po 'più efficiente, forse, ma i software moderni (come glmin R) non sembrano trattare i collegamenti canonici in modo diverso dagli altri collegamenti.
Semplifica alcune formule, quindi gli sviluppi teorici sono facilitati. Molte belle proprietà matematiche, vedi Qual è la differenza tra una "funzione di collegamento" e una "funzione di collegamento canonica" per GLM .

Quindi i vantaggi sembrano essere per lo più matematici e algoritmici, non proprio statistici.

Alcuni dettagli: Sia osservazioni indipendenti dal modello della famiglia di dispersione esponenziale con aspettativa e predittore lineare con covariate vettore . La funzione di collegamento è canonica se . In questo caso la funzione di verosimiglianza può essere scritta come e dal teorema di fattorizzazione possiamo concludere che $Y_1, \dotsc, Y_n$

f_{Y} (y; θ, ϕ) = \exp {(y θ - b (θ)) / a (ϕ) + c (y, ϕ)}

$f_Y(y;\theta,\phi)=\exp\left\{(y\theta-b(\theta))/a(\phi) + c(y,\phi)\right\}$

E Y_{i} = μ_{i}

$\DeclareMathOperator{\E}{\mathbb{E}} \E Y_i=\mu_i$

η_{i} = x_{i}^{T} β

$\eta_i = x_i^T \beta$

x_{i}

$x_i$

η_{i} = θ_{i}

$\eta_i=\theta_i$

L (β; ϕ) = \exp {\sum_{i} \frac{y_{i} x_{i}^{T} β - b (x_{i}^{T} β)}{a (ϕ)} + \sum_{i} c (y_{i}, ϕ)}

$\mathcal{L}(\beta; \phi)=\exp\left\{ \sum_i \frac{y_i x_i^T \beta -b(x_i^T \beta)}{a(\phi)}+\sum_i c(y_i,\phi)\right\}$

\sum_{i} x_{i} y_{i}

$\sum_i x_i y_i$ è sufficiente per .

β

$\beta$

Senza entrare nei dettagli, le equazioni necessarie per IRLS saranno semplificate. Allo stesso modo, questa ricerca su Google sembra principalmente trovare collegamenti canonici menzionati nel contesto delle semplificazioni e non più motivi statistici.

— kjetil b halvorsen
fonte

1

È matematicamente utile, forse.

— AdamO,

Sì, è quello che ho cercato di dire!

— kjetil b halvorsen,

8

La funzione di collegamento canonico descrive la relazione media-varianza in un GLM. Ad esempio, una variabile casuale binomiale ha la funzione di collegamento dove è un predittore lineare . Nota che che è la relazione media-varianza appropriata per una variabile casuale di Bernoulli. Lo stesso vale per le variabili casuali di Poisson, in cui la funzione di collegamento inverso è e dove in una variabile casuale di Poisson, il la varianza è la media. $\mu = \exp( \nu) /(1-\exp(\nu))$ $\nu$ $\mathbf{X}^T\beta$ $\frac{\partial }{\partial \nu} \mu = \mu(1-\mu)$ $\mu = \exp(\nu)$ $\frac{\partial }{\partial \nu} \mu = \mu$

Il modello lineare generalizzato risolve un'equazione di stima della forma:

S (β) = D V^{- 1} (Y - g (X^{T} β))

$S(\beta) = D V^{-1} (Y - g(\mathbf{X}^T\beta))$

dove e . Quando il collegamento è canonico, quindi, e la funzione di stima è: $D = \frac{\partial}{\partial \beta} g(\mathbf{X}^T\beta)$ $V=\text{var}(Y)$ $D = V$

S (β) = X^{T} (Y - g (X^{T} β))

$S(\beta) = \mathbf{X}^{T}(Y - g(\mathbf{X}^T\beta))$

Come è stato notato nel documento di Quasilikelihood del Wedderburn del 1976, il collegamento canonico ha il vantaggio che le informazioni attese e osservate sono le stesse e che i minimi quadrati reimpegnati iterativamente equivalgono a Newton-Raphson, quindi questo semplifica le procedure di stima e la stima della varianza.

— ADAMO
fonte