Ho un vago senso di cosa sia un metodo di passaggio di messaggi: un algoritmo che costruisce un'approssimazione a una distribuzione costruendo iterativamente approssimazioni di ciascuno dei fattori della distribuzione condizionali su tutte le approssimazioni di tutti gli altri fattori.
Credo che entrambi siano esempi di passaggio di messaggi e propagazione di aspettative variabili . Cos'è un algoritmo di passaggio di messaggi in modo più esplicito / corretto? I riferimenti sono ben accetti
Risposte:
Dato che chiedi riferimenti, posso consigliare il capitolo 16 di David MacKay Information Theory, Inference, and Learning Algorithms. (non è necessario leggere i precedenti 15 capitoli per capire il cap. 16) Il libro può essere scaricato gratuitamente dal sito Web dell'autore (con il permesso dell'editore).
Per un esempio interessante, controlla la tesi di John Winn . Utilizza un algoritmo di passaggio dei messaggi per l'apprendimento generico di ensemble variazionali, che consente la costruzione semplice di problemi di inferenza come ICA e PCA.
Forse l'articolo sulla propagazione delle credenze sarà utile.
L'articolo fornisce una descrizione in due punti elenco di come i "messaggi" vengono passati lungo i bordi in un grafico fattoriale. Questo "passaggio di messaggi" può essere eseguito per qualsiasi grafico. Per gli alberi l'algoritmo è esatto nel senso che fornisce il calcolo delle distribuzioni marginali e articolari desiderate dei nodi nell'albero. Le iterazioni dell'algoritmo per i grafici generali sono tentativi di produrre approssimazioni delle distribuzioni marginali o articolari desiderate.