Distribuzione del reciproco del coefficiente di regressione

Supponiamo di avere un modello lineare che soddisfi tutti i presupposti della regressione standard (Gauss-Markov). Siamo interessati a . $y_i = \beta_0 + \beta_1 x_i + \epsilon_i$ $\theta = 1/\beta_1$

Domanda 1: Quali ipotesi sono necessarie per definire bene la distribuzione di $\hat{\theta}$ ? $\beta_1 \neq 0$ sarebbe importante --- altri?

Domanda 2: aggiungi il presupposto che gli errori seguano una distribuzione normale. Sappiamo che, se $\hat{\beta}_1$ è l'MLE e $g(\cdot)$ è una funzione monotonica, allora $g\left(\hat{\beta}_1\right)$ è l'MLE per $g(\beta_1)$ . La monotonicità è necessaria solo nel quartiere di $\beta_1$ ? In altre parole, $\hat{\theta} = 1/\hat{\beta}$ il MLE? Il teorema del mapping continuo ci dice almeno che questo parametro è coerente.

Domanda 3: Sia il metodo Delta che il bootstrap sono entrambi i mezzi appropriati per trovare la distribuzione di $\hat{\theta}$ ?

Domanda 4: Come cambiano queste risposte per il parametro ? $\gamma = \beta_0 / \beta_1$

A parte: potremmo considerare di riorganizzare il problema per dare per stimare direttamente i parametri. Questo non sembra funzionare per me dato che i presupposti di Gauss-Markov non hanno più senso qui; non possiamo parlare di , per esempio. Questa interpretazione è corretta?

\begin{aligned} x_{i} & = \frac{β_{0}}{β_{1}} + \frac{1}{β_{1}} y_{i} + \frac{1}{β_{1}} ϵ_{i} \\ = γ + θ y_{i} + \frac{1}{β_{1}} ϵ_{i} \end{aligned}

$\begin{align*} x_i &= \frac{\beta_0}{\beta_1} + \frac{1}{\beta_1} y_i + \frac{1}{\beta_1} \epsilon_i \\ &= \gamma + \theta y_i + \frac{1}{\beta_1} \epsilon_i \end{align*}$

E [ϵ ∣ y]

$\text{E}[\epsilon \mid y]$

— Charlie
fonte

I presupposti "standard" includono o meno la Normalità di ?

ϵ_{i}

$\epsilon_i$

— whuber

Buon punto; Ho aggiunto tale presupposto alla parte relativa all'MLE. Tuttavia, non dovrebbe essere necessario per gli altri.

— Charlie,

La distribuzione campionaria di è normale, da cui quella di è il reciproco di una normale. Questo è bimodale con una media divergente (infinita), non importa quale sia la media di , ed è infinitamente piatto a 0. Il metodo Delta sarà quindi orribile, le consuete approssimazioni asintotiche di MLE saranno scarse, e anche il bootstrap potrebbe essere sospetto.

β_{1}

$\beta_1$

θ

$\theta$

β_{1}

$\beta_1$

— whuber

@whuber, potresti approfondire questo? La mia intuizione non vede come il reciproco di una normale dovrebbe essere bimodale; la mia ipotesi sarebbe che tutta la massa sarebbe al reciproco della media del normale (qui, ). Ero preoccupato per l'infinita possibilità media a causa della massa vicino a 0. Il bootstrap e i risultati asintotici richiedono l'esistenza dei momenti stimati, quindi questo è in definitiva ciò su cui si basa questa domanda.

1 / {\hat{β}}_{1}

$1/\hat{\beta}_1$

— Charlie,

Il PDF di una normale reciproca è . A 0 tutti i derivati equivalgono a 0; trovare punti critici del suo logaritmo identifica una modalità positiva e negativa (facilmente calcolabile in termini di e ); l'integrale didiverge come l'integrale di. Il problema con infiniti primi momenti si collega al reciproco di qualsiasi variabile casuale con densità di probabilità positiva a 0, che include tutte le normali.

\exp (- (1 / x - μ)^{2} / (2 σ^{2})) / (\sqrt{2 π} x^{2} σ) d x

$\exp(-(1/x-\mu)^2/(2\sigma^2))/(\sqrt{2\pi}x^2\sigma)dx$

σ

$\sigma$

μ / σ

$\mu/\sigma$

| x |

$|x|$

| x | / x^{2} = 1 / | x |

$|x|/x^2=1/|x|$

— whuber

Q1. Se è il MLE di , allora è il MLE di e è una condizione sufficiente perché questo stimatore sia ben definito. $\hat\beta_1$ $\beta_1$ $\hat\theta$ $\theta$ $\beta_1 \neq 0$

Q2. è l'MLE di per proprietà di invarianza dell'MLE. Inoltre, non è necessaria la monotonicità di se non è necessario ottenere il suo inverso. C'è solo bisogno che sia ben definito in ogni punto. Puoi verificarlo nel Teorema 7.2.1 pagg. 350 di "Probabilità e inferenza statistica" di Nitis Mukhopadhyay. $\hat\theta = 1/\hat\beta$ $\theta$ $g$ $g$

Q3. Sì, puoi usare entrambi i metodi, vorrei anche verificare la probabilità del profilo di . $\theta$

Q4. Qui, è possibile ri-parametrizzare il modello in termini di parametri di interesse . Ad esempio, l'MLE di è ed è possibile calcolare la probabilità del profilo di questo parametro o della sua distribuzione bootstrap come al solito. $(\theta,\gamma)$ $\gamma$ $\hat\gamma=\hat\beta_0/\hat\beta_1$

L'approccio che citi alla fine non è corretto, in realtà stai prendendo in considerazione un "modello di calibrazione" che puoi verificare in letteratura. L'unica cosa di cui hai bisogno è una nuova parametrizzazione in termini di parametri di interesse.

Spero che questo possa essere d'aiuto.

Cordiali saluti.

— XMX
fonte

Grazie per la risposta. Non ho il libro che citi, ma spesso queste proprietà richiedono l'esistenza dei momenti stimati. Non sono sicuro che il reciproco di una normale abbia i momenti necessari. Avrei dovuto chiarire questo punto nella mia domanda.

— Charlie,