Qual è la relazione tra modelli gerarchici, reti neurali, modelli grafici, reti bayesiane?


Risposte:


30

Una rete bayesiana è un tipo di modello grafico. L'altro tipo "grande" di modello grafico è Markov Random Field (MRF). I modelli grafici sono usati per inferenza, stima e in generale per modellare il mondo.

Il termine modello gerarchico è usato per significare molte cose in diverse aree.

Mentre le reti neurali sono dotate di "grafici", in genere non codificano le informazioni sulla dipendenza e i nodi non rappresentano variabili casuali. Le NN sono diverse perché discriminatorie. Le reti neurali popolari vengono utilizzate per la classificazione e la regressione.

Kevin Murphy ha un'eccellente introduzione a questi argomenti disponibili qui .


bel link. thx
suncoolsu

1
Grazie per la risposta. Come il richiedente originale, però, mi chiedo anche dove i modelli di regressione multilivello / gerarchico si adattino a questa immagine. (Gerarchico è come definito qui: en.wikipedia.org/wiki/Hierarchical_linear_modeling )
Yang

ma ci sono anche modelli di reti neurali generative. RNN, GAN, ecc.
Alexander Reshytko,

9

Come diceva @carlosdc , una rete bayesiana è un tipo di modello grafico (cioè un grafico aciclico diretto (DAG) la cui struttura definisce un insieme di proprietà di indipendenza condizionale). I modelli gerarchici di Bayes possono anche essere rappresentati come DAG; I classificatori gerarchici Naive Bayes per dati incerti , di Bellazzi et al., Forniscono una buona introduzione alla classificazione con tali modelli. A proposito di modelli gerarchici, penso che molti articoli possano essere recuperati cercando su google parole chiave appropriate; per esempio, ho trovato questo:

CH Jackson, NG Best e S. Richardson. Modelli grafici bayesiani per la regressione su più set di dati con variabili diverse . Biostatistica (2008) 10 (2): 335-351.

Michael I. Jordan ha un bel tutorial sui modelli grafici , con varie applicazioni basate sul modello fattoriale di Markov nascosto nella bioinformatica o nell'elaborazione del linguaggio naturale. Vale anche la pena leggere il suo libro, Learning in Graphical Models (MIT Press, 1998) (esiste un'applicazione di GM alla modellazione strutturale con codice BUGS , pagg. 575-598)


0

Le reti neurali non richiedono priori, ma ogni nodo nascosto (neuroni) di una rete neurale può essere considerato come CPD - Rumorosa OR / AND CPD per un nodo lineare - Sigmoid CPD per un nodo logistico

Pertanto, le reti neurali potrebbero essere visualizzate come più strati di nodi nascosti, ciascuno con CPD lineari / sigmoidali

La lezione di Koller su Coursera o il suo libro di testo dovrebbe essere un buon riferimento per i tipi di CPD.


Cosa significa CPD?
Scritto il
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.