Supponiamo di avere un insieme di punti y={y1,y2,…,yN} . Ogni punto yi viene generato usando la distribuzione
p(yi|x)=12N(x,1)+12N(0,10).
Per ottenere posteriore per
xscriviamo
p(x|y)∝p(y|x)p(x)=p(x)∏i=1Np(yi|x).
Secondo l'articolo di Minka sulla
propagazione delle aspettative,abbiamo bisogno dicalcoli
2Nper ottenere il posteriore
p(x|y) e, quindi, problema diventa intrattabile per grandi dimensioni del campione
. Tuttavia, non riesco a capire perché abbiamo bisogno di tale quantità di calcoli in questo caso, perché per singola
y i probabilità ha la forma
p ( y i | x ) = 1Nyip(yi|x)=122π−−√(exp{−12(yi−x)2}+110−−√exp{−120y2i}).
Usando questa formula otteniamo posteriore semplicemente moltiplicando , quindi abbiamo bisogno solo di operazioni N e, quindi, possiamo risolvere esattamente questo problema per campioni di grandi dimensioni.p(yi|x)N
Faccio esperimento numerico per confrontare faccio davvero ottenere gli stessi posteriori in caso a calcolare ogni termine separatamente e in caso d'uso del prodotto della densità per ciascun . Gli esterni sono uguali. Vedi
dove sbaglio? Qualcuno può chiarirmi perché abbiamo bisogno di 2 N operazioni per calcolare posteriore per data x e campione y ?yi2Nxy