Jeffreys precedente per più parametri

In alcuni casi, il precedente di Jeffreys per un modello multidimensionale è generalmente considerato inadeguato, questo è ad esempio il caso in: (dove , con e sconosciuti) dove è preferito il seguente precedente (al pieno Jeffreys precedente ):

y_{io} = μ + ε_{io},

$y_i=\mu + \varepsilon_i \, ,$

ε \sim N (0, σ^{2})

$\varepsilon \sim N(0,\sigma^2)$

μ

$\mu$

σ

$\sigma$

π (μ, σ) \propto σ^{- 2}

$\pi(\mu,\sigma)\propto \sigma^{-2}$

dove

è il precedente di Jeffreys ottenuto quando si mantiene

fisso (e similmente per

). Questo precedente coincide con il precedente di riferimento quando si trattano

in gruppi separati.

p (μ, σ) = π (μ) \cdot π (σ) α σ^{- 1},

$p(\mu,\sigma) = \pi(\mu) \cdot \pi(\sigma) \propto \sigma^{-1}\, ,$

π (μ)

$\pi(\mu)$

σ

$\sigma$

p (σ)

$p(\sigma)$

σ

$\sigma$

μ

$\mu$

Domanda 1: Perché trattarli come in gruppi separati ha più senso che trattarli nello stesso gruppo (il che risulterà, se avrò ragione (?), Nella versione precedente di Jeffreys, vedi [1])?

Quindi considera la seguente situazione: dove è sconosciuto, , non è notoe è una funzione non lineare nota. In tal caso, è allettante e dalla mia esperienza a volte fruttuoso considerare la seguente decomposizione:

y_{io} = g (X_{io}, θ) + ε_{io},

$y_i=g(x_i,\mathbf{\theta}) +\varepsilon_i\, ,$

θ \in R^{n}

$\theta \in \mathbb{R}^n$

ε_{i} \sim N (0, σ^{2})

$\varepsilon_i \sim N(0,\sigma^2)$

σ

$\sigma$

g

$g$

dove

sono i Jeffreys precedenti per i due sottomodelli come nell'esempio di posizione della scala precedente.

p (σ, θ) = π (σ) π (θ),

$p(\sigma,\theta)=\pi(\sigma) \pi(\theta) \, ,$

π (σ)

$\pi(\sigma)$

π (θ)

$\pi(\theta)$

Domanda 2: In una situazione del genere, possiamo dire qualcosa sull'ottimalità (dal punto di vista della teoria dell'informazione) del precedente derivato ? $p(\sigma,\theta)$

[1] Da https://theses.lib.vt.edu/theses/available/etd-042299-095037/unrestricted/etd.pdf :

Infine, notiamo che il priore di Jeffreys è un caso speciale di un priore di riferimento. In particolare, il precedente di Jeffreys corrisponde al precedente di riferimento in cui tutti i parametri del modello sono trattati in un singolo gruppo.

— peuhp
fonte

Penso che intendi un modello multivariabile, la regressione multivariata è strettamente riservata a più variabili sul lato sinistro.

— mdewey,

$\pi(\theta,\sigma)\propto \dfrac{1}{\sigma}$ $\pi(\theta,\sigma)\propto \dfrac{1}{\sigma}^2$

— Xi'an
fonte

Grazie per il tuo contributo. Tuttavia, a mio avviso, Jeffreys in precedenza offre una sorta di ottimalità nel senso che, almeno nella 1a impostazione, sono quelli che minimizzano una quantità teorica di informazioni che può avere senso ed essere discussa (per favore fatemi sapere se sbaglio ). Il mio punto è: possiamo scrivere un simile "criterio", la procedura precedente di Jeffreys soddisfa le due impostazioni indicate nella mia domanda? Dalla citazione fornita nella mia domanda, sembra che sì e mi piacerebbe discutere dell'implicazione della scelta di questo criterio anziché di un altro (da una prospettiva puramente IT :)).

— peuhp,