Distribuzione degli errori per regressione lineare e logistica

Con dati continui, una regressione lineare presuppone che il termine di errore sia distribuito N (0, ) $Y=\beta_1+\beta_2X_2+u$ $\sigma^2$

1) Supponiamo che anche Var (Y | x) sia ~ N (0, )? $\sigma^2$

2) Qual è la distribuzione di questo errore nella regressione logistica? Quando i dati sono nella forma di 1 record per caso, dove "Y" è 1 o 0, è il termine di errore distribuito Bernoulli (ovvero la varianza è p (1-p))) e quando i dati sono nella forma # i successi di # di prove, si presume binomiale (ovvero la varianza è np (1-p)), dove p è la probabilità che Y sia 1?

logistic generalized-linear-model

— B_Miner
fonte

Non si è precisi. Il modello presuppone che i termini di errore siano indipendenti e identicamente distribuiti con una distribuzione N (0, σ ) e non correlata a COVARIATE. Che cos'è Var (Y | x)? Stai condizionando su X = x? Il modello presume che la covariata sia casuale in qualche modo o così assumiamo che la covariata sia fissata secondo una matrice di progettazione? Penso che sia quest'ultimo e quindi Var (Y | X = x) è implicito nelle ipotesi e non ha bisogno di essere assunto.

^{2}

$^2$

_{2}

$_2$

_{2}

$_2$

— Michael R. Chernick,

@MichaelChernick Perché il modello presuppone che sia corretto? Certamente può essere corretto, ma può anche essere casuale. Nulla nella domanda implica uno dei due per me.

X_{2}

$X_2$

— Peter Flom

@PeterFlom Ho letto nella domanda che la regressione lineare con quella presunta distribuzione degli errori significava OLS che richiede X per essere riparato e noto. Se qualcuno ha una regressione Deming (cioè un errore nella regressione delle variabili) verrebbe specificato nella domanda. Guardare la risposta che Stat ha dato indica che anche lui ha interpretato la domanda.

_{2}

$_2$

— Michael R. Chernick,

@Michael, stavo assumendo X fisso.

— B_Miner

1) Se ha una distribuzione normale, cioè allora , poiché non è una variabile casuale. $u$ $N(0,σ^2)$ $Var(Y|X_2)=Var(β_1+β_2X_2)+Var(u)=0+σ^2=σ^2$ $β_1+β_2X_2$

2) Nella regressione logistica, si presume che gli errori seguano una distribuzione binomiale come menzionato qui . È meglio scriverlo come , poiché tali probabilità dipendono da , come indicato qui o nella regressione logistica applicata . $Var(Y_j|X_j)=m_j.E[Y_j|X_j].(1-E[Y_j|X_j])=m_j\pi(X_j).(1-\pi(X_j))$ $X_j$

— statistica
fonte

Stat, Quindi, è corretto affermare che la varianza per il suo singolo errore, , è (1- ) che è equivalente a quello che hai mostrato supponendo che ci siano più di 1 osservazione nei dati con la stessa covariata modello (cioè altrimenti = 1 per tutto j)?

e_{i}

$e_i$

p_{i}

$p_i$

p_{i}

$p_i$

m_{j}

$m_j$

— B_Miner,

Sì, questo è corretto. Se con , allora con probabilità o con probabilità . Quindi ha una distribuzione con media e varianza uguale a .

Y_{i} = p_{i} + e_{i}

$Y_i=p_i+e_i$

P (Y_{i} = 1) = 1 - P (Y_{i} = 0) = p_{i}

$P(Y_i=1)=1-P(Y_i=0)=p_i$

e_{i} = 1 - p_{i}

$e_i=1-p_i$

p_{i}

$p_i$

e_{i} = - p_{i}

$e_i=-p_i$

1 - p_{i}

$1-p_i$

e_{i}

$e_i$

0

$0$

p_{i} (1 - p_{i})

$p_i(1-p_i)$

— Stat

Un altro punto qui, Stat, DOVRIAMO supporre che gli X siano fissi, non casuali per Var (Y | X) = Var (e) per entrambi i casi di regressione lineare e logistica corretti?

— B_Miner,

NB con probabilità o con probabilità non è una distribuzione binomiale per .

e_{i} = 1 - p_{i}

$e_i=1−p_i$

p_{i}

$p_i$

e_{i} = - p_{i}

$e_i=−p_i$

1 - p_{i}

$1−p_i$

e_{i}

$e_i$

— Scortchi - Ripristina Monica

B_Miner: significa che la varianza di dipende dalla variabile casuale che assume un valore osservato . Quindi è irrilevante se i tuoi predittori siano riparati da un esperimento o osservati in un campione: ciò che dice @ Stat è che non vengono più considerati variabili casuali ai fini della regressione.

Var (Y | X) = Var (Y | X = x)

$\operatorname{Var}(Y|X)=\operatorname{Var}(Y|X=x)$

Y

$Y$

X

$X$

x

$x$

— Scortchi - Ripristina Monica