Convergenza dall'algoritmo EM con distribuzione della miscela bivariata

Ho un modello di miscela che voglio trovare lo stimatore della massima verosimiglianza di un dato insieme di dati e un insieme di dati parzialmente osservati . Ho implementato sia l'E-step (calcolando l'aspettativa di dato e i parametri correnti ), sia il M-step, per minimizzare la verosimiglianza negativa data la prevista .$x$$z$$z$$x$$\theta^k$$z$

Come ho capito, la probabilità massima sta aumentando per ogni iterazione, questo significa che la probabilità logaritmica negativa deve diminuire per ogni iterazione? Tuttavia, come ho ripetuto, l'algoritmo non produce effettivamente valori decrescenti della probabilità logaritmica negativa. Invece, può essere sia in diminuzione che in aumento. Ad esempio, questi erano i valori della probabilità logaritmica negativa fino alla convergenza:

C'è qui che ho frainteso?

Inoltre, per i dati simulati quando eseguo la massima verosimiglianza per le vere variabili latenti (non osservate), ho una corrispondenza quasi perfetta, indicando che non ci sono errori di programmazione. Per l'algoritmo EM converge spesso in soluzioni chiaramente non ottimali, in particolare per un sottoinsieme specifico dei parametri (ovvero le proporzioni delle variabili di classificazione). È noto che l'algoritmo può convergere in minimi locali o punti fissi, esiste una ricerca euristica convenzionale o allo stesso modo per aumentare la probabilità di trovare il minimo globale (o massimo) . Per questo particolare problema credo che ci siano molte classificazioni mancate perché, della miscela bivariata, una delle due distribuzioni assume valori con probabilità uno (è una miscela di vite in cui la vita reale è trovata da$T=z T_0 + (1-z)\infty$ dove indica l'appartenenza a una delle due distribuzioni. L'indicatore è ovviamente censurato nel set di dati. $z$$z$

Ho aggiunto una seconda cifra per quando inizio con la soluzione teorica (che dovrebbe essere vicina all'ottimale). Tuttavia, come si può vedere, la probabilità e i parametri differiscono da questa soluzione in una chiaramente inferiore.

modifica: i dati completi sono nella forma dove è un tempo osservato per il soggetto , indica se il tempo è associato a un evento reale o se è censurato a destra (1 indica evento e 0 indica censura a destra), è il tempo di troncamento dell'osservazione (possibilmente 0) con l'indicatore di troncamento e infine è l'indicatore a cui appartiene la popolazione dell'osservazione (poiché è bivariato, dobbiamo solo considerare 0 e 1).$\mathbf{x_i}=(t_i,\delta_i,L_i,\tau_i,z_i)$$t_i$$i$$\delta_i$$L_i$$\tau_i$$z_i$

Per abbiamo la funzione di densità , similmente è associata alla funzione di distribuzione della coda . Per l'evento di interesse non si verificherà. Sebbene non ci sia associato a questa distribuzione, la definiamo come , quindi e . Ciò produce anche la seguente distribuzione completa della miscela:$z=1$$f_z(t)=f(t|z=1)$$S_z(t)=S(t|z=1)$$z=0$$t$$\inf$$f(t|z=0)=0$$S(t|z=0)=1$

$f(t) = \sum_{i=0}^{1}p_if(t|z=i) = pf(t|z=1)$ e $S(t) = 1 - p + pS_z(t)$

Procediamo a definire la forma generale della probabilità:

$L(\theta;\mathbf{x_i}) = \Pi_i \frac{f(t_i;\theta)^{\delta_i}S(t_i;\theta)^{1-\delta_i}}{S(L_i)^{\tau_i}}$

Ora, viene osservato solo parzialmente quando , altrimenti non è noto. La piena probabilità diventa$z$$\delta=1$

$L(\theta,p;\mathbf{x_i}) = \Pi_i \frac{\big((p f_z(t_i;\theta))^{z_i}\big)^{\delta_i}\big((1-p)^{(1-z_i)}(p S_z(t_i;\theta))^{z_i}\big)^{1-\delta_i}}{\big((1-p)^{(1-z_i)}(p S_z(L_i;\theta))^{z_i}\big)^{\tau_i}}$

dove è il peso della distribuzione corrispondente (eventualmente associato ad alcune covariate e ai rispettivi coefficienti mediante una funzione di collegamento). Nella maggior parte della letteratura questo è semplificato alla seguente responsabilità$p$

$\sum \Big( z_i \ln(p) + (1-p) \ln(1-p) - \tau_i\big(z_i \ln(p) + (1-z_i)\ln(1-p)\big) + \delta_i z_i f_z(t_i;\theta) + (1-\delta_i) z_i S_z(t_i;\theta) - \tau_i S_z(L_i;\theta)\Big)$

Per la fase M , questa funzione è massimizzata, sebbene non nella sua interezza in 1 metodo di massimizzazione. Invece non possiamo separarlo in parti .$l(\theta,p; \cdot) = l_1(\theta,\cdot) + l_2(p,\cdot)$

Per il k: th + 1 E-step , dobbiamo trovare il valore atteso delle variabili latenti (parzialmente) non osservate . Usiamo il fatto che per , quindi .$z_i$$\delta=1$$z=1$

$E(z_i|\mathbf{x_i},\theta^{(k)},p^{(k)}) = \delta_i + (1-\delta_i) P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})$

Qui abbiamo, di$P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i}) =\frac{P(\mathbf{x_i};\theta^{(k)},p^{(k)}|z_i=1)P(z_i=1;\theta^{(k)},p^{(k)})}{P(\mathbf{x_i};\theta^{(k)},p^{(k)})}$

che ci dà$P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})=\frac{pS_z(t_i;\theta^{(k)})}{1 - p + pS_z(t_i;\theta^{(k)})}$

(Notare qui che , quindi non vi è alcun evento osservato, quindi la probabilità dei dati è data dalla funzione di distribuzione della coda.$\delta_i=0$$\mathbf{x_i}$

L'obiettivo di EM è massimizzare la probabilità di log dei dati osservati,

Sfortunatamente, questo tende ad essere difficile da ottimizzare rispetto a . Invece, EM forma e massimizza ripetutamente la funzione ausiliaria$\theta$

Se massimizza , EM lo garantisce$\theta^{t+1}$$Q(\theta, \theta^t)$

Se vuoi sapere esattamente perché questo è il caso, la Sezione 11.4.7 di Murphy's Machine Learning: A Probabilistic Perspective fornisce una buona spiegazione. Se l'implementazione non soddisfa queste disuguaglianze, hai commesso un errore da qualche parte. Dire cose del genere

Ho un adattamento perfetto, indicando che non ci sono errori di programmazione

è pericoloso. Con molti algoritmi di ottimizzazione e apprendimento, è molto facile commettere errori ma ottenere risposte dall'aspetto corretto per la maggior parte del tempo. Un'intuizione a cui sono affezionato è che questi algoritmi hanno lo scopo di gestire i dati disordinati, quindi non sorprende che gestiscano bene anche i bug!

Sull'altra metà della tua domanda,

esiste una ricerca euristica convenzionale o allo stesso modo per aumentare la probabilità di trovare il minimo globale (o massimo)

Il riavvio casuale è l'approccio più semplice; il successivo più semplice è probabilmente la ricottura simulata rispetto ai parametri iniziali. Ho anche sentito parlare di una variante di EM chiamata ricottura deterministica , ma non l'ho usata personalmente, quindi non posso dirvi molto.