Costante normalizzante nel teorema di Bayes

15

Ho letto che nella regola di Bayes, il denominatore di $\Pr(\textrm{data})$

Pr (parameters ∣ data) = \frac{Pr (data ∣ parameters) Pr (parameters)}{Pr (data)}

$\Pr(\text{parameters} \mid \text{data}) = \frac{\Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\text{parameters})}{\Pr(\text{data})}$

viene chiamata una costante normalizzante . Che cosa è esattamente? Qual è il suo scopo? Perché sembra ? Perché non dipende dai parametri? $\Pr(data)$

probability bayesian

— dilettante
fonte

4

Quando si integra

, si sta integrando i parametri e quindi il risultato non ha alcun termine a seconda dei parametri, allo stesso modo in cui

f (data | params) f (params)

$f(\text{data}|\text{params})f(\text{params})$

non dipende da

.

\int_{x = 0}^{x = 2} x y d x = 2 y

$\int_{x=0}^{x=2}xy\;dx = 2y$

x

$x$

— Henry,

16

Il denominatore, , si ottiene integrando i parametri dalla probabilità di unione, . Questa è la probabilità marginale dei dati e, ovviamente, non dipende dai parametri poiché questi sono stati integrati. $\Pr(\textrm{data})$ $\Pr(\textrm{data}, \textrm{parameters})$

Ora, dal momento che:

non dipende dai parametri per i quali si vuole dedurre; $\Pr(\textrm{data})$
$\Pr(\textrm{data})$ è generalmente difficile da calcolare in forma chiusa;

si usa spesso il seguente adattamento della formula di Baye:

$\Pr(\textrm{parameters} \mid \textrm{data}) \propto \Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\textrm{parameters})$

$\Pr(\textrm{data})$

— OCRAM
fonte

2

Cosa intendi esattamente con " integrando i parametri"? Qual è il significato preciso di "integrarsi" in questo contesto?

— nbro,

2

@nbro: intendo Pr (dati) = integrale sui parametri di Pr (dati, parametri)

— ocram

2

Quando applichiamo la regola di Bayes, di solito desideriamo inferire i "parametri" e i "dati" sono già indicati. Così, $\Pr(\textrm{data})$ è una costante e possiamo supporre che sia solo un fattore di normalizzazione.

— duro
fonte