Statistiche e Big Data expectation-maximization

4

Esistono alternative rapide all'algoritmo EM per i modelli di apprendimento con variabili latenti (in particolare pLSA)? Sto bene sacrificando la precisione a favore della velocità.

13 machine-learning optimization expectation-maximization lsa

3

Stimare la dimensione di una popolazione campionata dal numero di osservazioni ripetute

Supponiamo che io abbia una popolazione di 50 milioni di cose uniche e prendo 10 milioni di campioni (con sostituzione) ... Il primo grafico che ho allegato mostra quante volte campiono la stessa "cosa", che è relativamente raro come la popolazione è più grande del mio campione. Tuttavia, se la …

13 r sampling expectation-maximization

4

Separare due popolazioni dal campione

Sto cercando di separare due gruppi di valori da un singolo set di dati. Posso presumere che una delle popolazioni sia normalmente distribuita e abbia almeno la metà della dimensione del campione. I valori del secondo sono entrambi inferiori o superiori ai valori del primo (la distribuzione è sconosciuta). Quello …

13 dataset outliers expectation-maximization

2

MLE significa sempre che conosciamo il PDF sottostante dei nostri dati e EM significa che non lo sappiamo?

Ho alcune semplici domande concettuali che vorrei chiarire per quanto riguarda l'MLE (stima della massima verosimiglianza) e quale collegamento abbia, eventualmente, con EM (massimizzazione delle aspettative). A quanto ho capito, se qualcuno dice "Abbiamo usato l'MLE", significa automaticamente che hanno un modello esplicito del PDF dei loro dati? Mi sembra …

12 estimation maximum-likelihood expectation-maximization

2

Trovare un numero di gaussiani in una miscela finita con il teorema di Wilks?

Supponiamo che io abbia una serie di osservazioni univariate indipendenti e identicamente distribuite due ipotesi su come stato generato:xXxxXxx xH0H0H_0 : è tratto da una singola distribuzione gaussiana con media e varianza sconosciute.Xxx xHUNHAH_A : è tratto da una miscela di due gaussiani con media sconosciuta, varianza e coefficiente di …

11 hypothesis-testing normal-distribution expectation-maximization

2

Significato delle probabilità di transizione iniziali in un modello markov nascosto

Quali sono i vantaggi di dare determinati valori iniziali alle probabilità di transizione in un modello nascosto di Markov? Alla fine il sistema li imparerà, quindi che senso ha dare valori diversi da quelli casuali? L'algoritmo sottostante fa la differenza come Baum-Welch? Se conosco le probabilità di transizione all'inizio in …

11 machine-learning expectation-maximization hidden-markov-model

1

Come si usa l'algoritmo EM per calcolare gli MLE per una formulazione variabile latente di un modello di Poisson gonfiato zero?

Il modello di regressione di Poisson gonfiato a zero è definito per un campione per Y i = { 0 con probabilità p i + ( 1 - p i ) e - λ i k con probabilità ( 1 - p i ) e - λ i λ k …

10 generalized-linear-model maximum-likelihood poisson-distribution expectation-maximization latent-variable

3

Modelli nascosti di Markov e algoritmo di massimizzazione delle aspettative

Qualcuno può chiarire in che modo i modelli nascosti di Markov sono correlati alla massimizzazione delle aspettative? Ho attraversato molti link ma non sono riuscito a trovare una visione chiara. Grazie!

10 markov-process expectation-maximization hidden-markov-model

1

Come rendere definita una matrice positiva?

Sto cercando di implementare un algoritmo EM per il seguente modello di analisi dei fattori; Wj=μ+Baj+ejforj=1,…,nWj=μ+Baj+ejforj=1,…,nW_j = \mu+B a_j+e_j \quad\text{for}\quad j=1,\ldots,n dove è un vettore casuale p-dimensionale, è un vettore q-dimensionale di variabili latenti e è una matrice di parametri pxq.WjWjW_jajaja_jBBB Come risultato di altre ipotesi utilizzate per il modello, …

10 factor-analysis expectation-maximization

3

Differenza tra MLE e Baum Welch sul raccordo HMM

In questa domanda popolare , la risposta molto votata rende MLE e Baum Welch separati nel raccordo HMM. Per problemi di allenamento possiamo usare i seguenti 3 algoritmi: MLE (stima della massima verosimiglianza), allenamento di Viterbi (NON confondere con la decodifica di Viterbi), Baum Welch = algoritmo avanti-indietro MA in …

10 hidden-markov-model expectation-maximization

2

Aiuto nell'ottimizzazione delle aspettative dalla carta: come includere la distribuzione precedente?

La domanda si basa sull'articolo intitolato: Ricostruzione dell'immagine nella tomografia ottica diffusa utilizzando il modello di trasporto-diffusione radiativo accoppiato Link per scaricare Gli autori applicano l'algoritmo EM con regolarizzazione della sparsità di un vettore sconosciuto per stimare i pixel di un'immagine. Il modello è dato dal1l1l_1μμ\mu y=Aμ+e(1)(1)y=Aμ+ey=A\mu + e \tag{1} …

9 self-study bayesian maximum-likelihood expectation-maximization moving-average

1

Limitazioni MCMC / EM? MCMC over EM?

Attualmente sto imparando i modelli gerarchici bayesiani usando JAGS da R, e anche pymc usando Python ( "Metodi bayesiani per hacker" ). Da questo post posso trarre qualche intuizione : "finirai con un mucchio di numeri che sembrano" come se "tu fossi in qualche modo riuscito a prendere campioni indipendenti …

9 bayesian mcmc expectation-maximization

1

L'algoritmo EM stima costantemente i parametri nel modello di miscela gaussiana?

Sto studiando il modello di miscela gaussiana e mi pongo questa domanda da solo. Supponiamo che i dati sottostanti siano generati da una miscela di distribuzione gaussiana di e ciascuno di essi abbia un vettore medio , dove e ciascuno di essi ha lo stesso co- matrice di varianza e …

9 self-study expectation-maximization gaussian-mixture consistency

1

Convergenza dall'algoritmo EM con distribuzione della miscela bivariata

Ho un modello di miscela che voglio trovare lo stimatore della massima verosimiglianza di un dato insieme di dati e un insieme di dati parzialmente osservati . Ho implementato sia l'E-step (calcolando l'aspettativa di dato e i parametri correnti ), sia il M-step, per minimizzare la verosimiglianza negativa data la …

9 maximum-likelihood mixture expectation-maximization

1

Perché l'algoritmo EM deve essere iterativo?

Supponiamo di avere una popolazione con unità, ciascuna con una variabile casuale X i ∼ Poisson ( λ ) . Si osservano n = N - n 0 valori per qualsiasi unità per la quale X i > 0 . Vogliamo una stima di λ .NNNXi∼Poisson(λ)Xi∼Poisson(λ)X_i \sim \text{Poisson}(\lambda)n = N- …

9 expectation-maximization

Domande taggate «expectation-maximization»