Cosa dovrebbe essere un precedente non informativo per la pendenza quando si fa una regressione lineare?

Quando si esegue la regressione lineare bayesiana, è necessario assegnare un precedente per la pendenza $a$ e intercettare . Poiché è un parametro di localizzazione, ha senso assegnare un precedente uniforme; tuttavia, mi sembra che a sia simile a un parametro di scala e sembra innaturale assegnare un'uniforme prima di esso.$b$$b$$a$

D'altra parte, non sembra del tutto giusto assegnare il solito non informativo Jeffrey precedente ( $1/a$ ) per una pendenza di una regressione lineare. Per uno, può essere negativo. Ma non riesco a vedere cos'altro potrebbe essere.

Allora, qual è il precedente "non corretto" non informativo per la pendenza di una regressione lineare bayesiana? (Qualsiasi riferimento sarebbe apprezzato.)

Da Bayesian Data Analysis 3a ed., P. 355:

La distribuzione precedente non informativa standard

Nel modello di regressione normale, una distribuzione precedente non informativa conveniente è uniforme su o, equivalentemente,p ( β , σ 2 | X ) ∝ σ - $(\beta, \log \sigma)$

$$p(\beta,\sigma^2|X) \propto\sigma^{-2}$$

( riferisce ai regressori.) Il libro contiene ulteriori utili discussioni oltre lo scopo di questa domanda: quando questo precedente è utile, quando gli altri sono più adatti, il suo posteriore, e il confronto con le stime classiche.$X$

I bayesiani normalmente scelgono i priori che rendono più facile sopportare le loro vite matematicamente difficili. Questo significa priori gaussiani, a meno che il modello non lo proibisca assolutamente. Ricorda che hai bisogno di un bivariato prima nella tua situazione, poiché devi modellare la correlazione tra pendenza e posizione, nonché i loro comportamenti marginali. La multivariata normale è il tuo biglietto.

Un priore gaussiano sui parametri si adatta perfettamente all'errore (indubbiamente) di misurazione gaussiana già presente nel modello di regressione.

A proposito, non associo le pendenze ai parametri di scala, poiché le pendenze possono essere negative e i parametri di scala no.

Ora la distribuzione gaussiana non è un precedente non informativo, ma se davvero non si hanno informazioni preliminari, forse si dovrebbe andare frequentisti. O usa un gaussiano con una varianza molto grande.

Non conosco un riferimento moderno all'inferenza bayesiana. A rischio di usare un bazooka per sparare a un coniglio, potresti cercare Rasmussen e Williams, che sono disponibili online . La prima sezione del capitolo 2 passa attraverso la regressione bayesiana in alcuni dettagli.

$\tan^{-1}\left(a\right)$$b\cos\theta$$\theta$