Algoritmo di motivazione dell'aspettativa di massimizzazione

20

Nell'approccio dell'algoritmo EM usiamo la disuguaglianza di Jensen per arrivare a

\log p (x | θ) \geq \int \log p (z, x | θ) p (z | x, θ^{(k)}) d z - \int \log p (z | x, θ) p (z | x, θ^{(k)}) d z

$\log p(x|\theta) \geq \int \log p(z,x|\theta) p(z|x,\theta^{(k)}) dz - \int \log p(z|x,\theta) p(z|x,\theta^{(k)})dz$

e definire da $\theta^{(k+1)}$

θ^{(k + 1)} = \arg max_{θ} \int \log p (z, x | θ) p (z | x, θ^{(k)}) d z

$\theta^{(k+1)}=\arg \max_{\theta}\int \log p(z,x|\theta) p(z|x,\theta^{(k)}) dz$

Tutto ciò che leggo EM lo fa semplicemente cadere, ma mi sono sempre sentito a disagio non avendo una spiegazione del perché l'algoritmo EM nasce naturalmente. Comprendo che verosimiglianza viene generalmente gestita per gestire l'addizione anziché la moltiplicazione, ma l'aspetto di nella definizione di mi sembra poco motivato. Perché si dovrebbe considerare e non altre funzioni monotone? Per vari motivi sospetto che il "significato" o la "motivazione" alla base della massimizzazione delle aspettative abbia una sorta di spiegazione in termini di teoria dell'informazione e statistiche sufficienti. Se ci fosse una spiegazione del genere sarebbe molto più soddisfacente di un semplice algoritmo astratto. $\log$ $\log$ $\theta^{(k+1)}$ $\log$

mixture expectation-maximization

— user782220
fonte

3

Qual è l'algoritmo di massimizzazione delle aspettative? , Nature Biotechnology 26 : 897–899 (2008) ha una bella foto che illustra come funziona l'algoritmo.

— chl

@chl: ho visto quell'articolo. Il punto che sto chiedendo è che l'avviso che da nessuna parte spiega perché un approccio non log non può funzionare

— user782220

10

L'algoritmo EM ha interpretazioni diverse e può presentarsi in forme diverse in applicazioni diverse.

Tutto inizia con la funzione di verosimiglianza o, equivalentemente, con la funzione di verosimiglianza $p(x \vert \theta)$ $\log p(x \vert \theta)$ che vorremmo massimizzare. (Generalmente usiamo il logaritmo in quanto semplifica il calcolo: è rigorosamente monotono, concavo e .) In un mondo ideale, il valore di dipende solo dal parametro del modello , quindi possiamo cercare nello spazio di e trovarne uno che massimizzi . $\log(ab) = \log a + \log b$ $p$ $\theta$ $\theta$ $p$

Tuttavia, in molte interessanti applicazioni del mondo reale le cose sono più complicate, perché non tutte le variabili vengono osservate. Sì, potremmo osservare direttamente , ma alcune altre variabili non sono osservate. A causa delle variabili mancanti , ci troviamo in una sorta di situazione di pollo e uova: senza non possiamo stimare il parametro e senza non possiamo dedurre quale possa essere il valore di . $x$ $z$ $z$ $z$ $\theta$ $\theta$ $z$

È qui che entra in gioco l'algoritmo EM. Iniziamo con un'ipotesi iniziale dei parametri del modello e ricaviamo i valori attesi delle variabili mancanti (cioè il passaggio E). Quando abbiamo i valori di , possiamo massimizzare la probabilità rispetto ai parametri (cioè, il passo M, corrispondente all'equazione problematica). Con questo possiamo derivare i nuovi valori attesi di (un altro passo E), così via e così via. In altre parole, in ogni passaggio assumiamo uno dei due, e $\theta$ $z$ $z$ $\theta$ $\arg \max$ $\theta$ $z$ $z$ $\theta$ , è conosciuto. Ripetiamo questo processo iterativo fino a quando non è più possibile aumentare la probabilità.

Questo è l'algoritmo EM in breve. È noto che la probabilità non diminuirà mai durante questo processo EM iterativo. Ma tieni presente che l'algoritmo EM non garantisce l'ottimale globale. Cioè, potrebbe finire con un ottimo locale della funzione di verosimiglianza.

L'aspetto del nell'equazione di è inevitabile, perché qui la funzione che si desidera massimizzare è scritta come verosimiglianza. $\log$ $\theta^{(k+1)}$

— Weiwei
fonte

Non vedo come questo risponda alla domanda.

— Bronco,

9

Probabilità vs probabilità logaritmica

Come già detto, il viene introdotto con la massima probabilità semplicemente perché è generalmente più facile ottimizzare le somme rispetto ai prodotti. Il motivo per cui non consideriamo altre funzioni monotone è che il logaritmo è la funzione unica con la proprietà di trasformare i prodotti in somme. $\log$

Un altro modo per motivare il logaritmo è il seguente: Invece di massimizzare la probabilità dei dati secondo il nostro modello, potremmo provare in modo equivalente a minimizzare la divergenza di Kullback-Leibler tra la distribuzione dei dati, i e la distribuzione del modello, , $p_\text{data}(x)$ $p(x \mid \theta)$

D_{KL} [p_{data} (x) ∣∣ p (x ∣ θ)] = \int p_{data} (x) \log \frac{p_{data} (x)}{p (x ∣ θ)} d x = c o n s t - \int p_{data} (x) \log p (x ∣ θ) d x .

$D_\text{KL}[p_\text{data}(x) \mid\mid p(x \mid \theta)] = \int p_\text{data}(x) \log \frac{p_\text{data}(x)}{p(x \mid \theta)} \, dx = const - \int p_\text{data}(x)\log p(x \mid \theta) \, dx.$

Il primo termine sul lato destro è costante nei parametri. Se abbiamo campioni dalla distribuzione dei dati (i nostri punti di dati), possiamo approssimare il secondo termine con la probabilità media di log dei dati, $N$

\int p_{data} (x) \log p (x ∣ θ) d x \approx \frac{1}{N} \sum_{n} \log p (x_{n} ∣ θ) .

$\int p_\text{data}(x)\log p(x \mid \theta) \, dx \approx \frac{1}{N} \sum_n \log p(x_n \mid \theta).$

Una visione alternativa di EM

Non sono sicuro che questo sarà il tipo di spiegazione che stai cercando, ma ho trovato la seguente visione della massimizzazione delle aspettative molto più illuminante della sua motivazione attraverso la disuguaglianza di Jensen (puoi trovare una descrizione dettagliata in Neal & Hinton (1998) o nel libro PRML di Chris Bishop, capitolo 9.3).

Non è difficile dimostrarlo

\log p (x ∣ θ) = \int q (z ∣ x) \log \frac{p (x, z ∣ θ)}{q (z ∣ x)} d z + D_{KL} [q (z ∣ x) ∣∣ p (z ∣ x, θ)]

$\log p(x \mid \theta) = \int q(z \mid x) \log \frac{p(x, z \mid \theta)}{q(z \mid x)} \, dz + D_\text{KL}[q(z \mid x) \mid\mid p(z \mid x, \theta)]$

per ogni . Se chiamiamo il primo termine sul lato destro , ciò implica che $q(z \mid x)$ $F(q, \theta)$

F (q, θ) = \int q (z ∣ x) \log \frac{p (x, z ∣ θ)}{q (z ∣ x)} d z = \log p (x ∣ θ) - D_{KL} [q (z ∣ x) ∣∣ p (z ∣ x, θ)] .

$F(q, \theta) = \int q(z \mid x) \log \frac{p(x, z \mid \theta)}{q(z \mid x)} \, dz = \log p(x \mid \theta) - D_\text{KL}[q(z \mid x) \mid\mid p(z \mid x, \theta)].$

Poiché la divergenza KL è sempre positiva , è un limite inferiore della probabilità logaritmica per ogni fisso . Ora, EM può essere visto alternativamente massimizzando rispetto a e . In particolare, modificando nella E-passo, riduciamo al minimo la divergenza KL sul lato destro e quindi massimizzare . $F(q, \theta)$ $q$ $F$ $q$ $\theta$ $q(z \mid x) = p(z \mid x, \theta)$ $F$

— Lucas
fonte

Grazie per il post! Sebbene il documento dato non dica che il logaritmo è la funzione unica che trasforma i prodotti in somme. Si dice logaritmo è l'unica funzione che soddisfa tutte e tre le proprietà elencate contemporaneamente .

— Weiwei,

@Weiwei: giusto, ma la prima condizione richiede principalmente che la funzione sia invertibile. Naturalmente, f (x) = 0 implica anche f (x + y) = f (x) f (y), ma questo è un caso poco interessante. La terza condizione richiede che la derivata su 1 sia 1, il che è vero solo per il logaritmo su cui basare

. Elimina questo vincolo e ottieni logaritmi su basi diverse, ma comunque logaritmi.

e

$e$

— Lucas,

4

Il documento che ho trovato chiarendo in merito alla massimizzazione delle aspettative è K-Mezzi bayesiani come un algoritmo di "Massimizzazione-Aspettativa" (pdf) di Welling e Kurihara.

Supponiamo di avere un modello probabilistico con osservazioni, variabili casuali nascoste e un totale di parametri. Ci viene dato un set di dati e siamo costretti (da potenze superiori) a stabilire . $p(x,z,\theta)$ $x$ $z$ $\theta$ $D$ $p(z,\theta|D)$

1. Campionamento di Gibbs

Possiamo approssimare campionando. Il campionamento di Gibbs fornisce alternando: $p(z,\theta|D)$ $p(z,\theta|D)$

θ \sim p (θ | z, D) z \sim p (z | θ, D)

$\theta \sim p(\theta|z,D) \\ z \sim p(z|\theta,D)$

2. Bayes variazionali

Invece, possiamo provare a stabilire una distribuzione e e ridurre al minimo la differenza con la distribuzione che siamo dopo . La differenza tra le distribuzioni ha un comodo nome di fantasia, la divergenza KL. Per ridurre a icona aggiorniamo: $q(\theta)$ $q(z)$ $p(\theta,z|D)$ $KL[q(\theta)q(z)||p(\theta,z|D)]$

q (θ) \propto \exp (E [\log p (θ, z, D)]_{q (z)}) q (z) \propto \exp (E [\log p (θ, z, D)]_{q (θ)})

$q(\theta) \propto \exp (E [\log p(\theta,z,D) ]_{q(z)} ) \\ q(z) \propto \exp (E [\log p(\theta,z,D) ]_{q(\theta)} )$

3. Massimizzazione delle aspettative

Trovare distribuzioni di probabilità a tutti gli effetti sia per che potrebbe essere considerato estremo. Perché non consideriamo invece una stima puntuale per uno di questi e manteniamo l'altro bello e sfumato. In EM il parametro viene stabilito come indegno di una distribuzione completa e impostato sul suo valore MAP (Massimo A Posteriore), . $z$ $\theta$ $\theta$ $\theta^*$

θ^{*} = \underset{θ}{argmax} E [\log p (θ, z, D)]_{q (z)} q (z) = p (z | θ^{*}, D)

$\theta^* = \underset{\theta}{\operatorname{argmax}} E [\log p(\theta,z,D) ]_{q(z)} \\ q(z) = p(z|\theta^*,D)$

Qui sarebbe in realtà essere una notazione meglio: l'operatore argmax può restituire più valori. Ma non pignoli. Rispetto ai Bayes variazionali vedi che la correzione per il di non cambia il risultato, quindi non è più necessario. $\theta^* \in \operatorname{argmax}$ $\log$ $\exp$

4. Massimizzazione-Aspettativa

Non c'è motivo di trattare come un bambino viziato. Possiamo anche usare le stime dei punti per le nostre variabili nascoste e dare ai parametri il lusso di una distribuzione completa. $z$ $z^*$ $\theta$

z^{*} = \underset{z}{argmax} E [\log p (θ, z, D)]_{q (θ)} q (θ) = p (θ | z^{*}, D)

$z^* = \underset{z}{\operatorname{argmax}} E [\log p(\theta,z,D) ]_{q(\theta)} \\ q(\theta) = p(\theta|z^*,D)$

Se le nostre variabili nascoste sono variabili indicatrici, abbiamo improvvisamente un metodo computazionalmente economico per eseguire inferenze sul numero di cluster. In altre parole: selezione del modello (o rilevamento automatico della pertinenza o immagina un altro nome di fantasia). $z$

5. Modalità condizionate iterate

Naturalmente, il bambino poster dell'inferenza approssimativa deve usare le stime dei punti sia per i parametri sia per le osservazioni . $\theta$ $z$

θ^{*} = \underset{θ}{argmax} p (θ, z^{*}, D) z^{*} = \underset{z}{argmax} p (θ^{*}, z, D)

$\theta^* = \underset{\theta}{\operatorname{argmax}} p(\theta,z^*,D) \\ z^* = \underset{z}{\operatorname{argmax}} p(\theta^*,z,D) \\$

Per vedere come funziona la massimizzazione-aspettativa consiglio vivamente l'articolo. A mio avviso, il punto di forza di questo articolo non è tuttavia l'applicazione a un'alternativa ai mezzi , ma questa esposizione lucida e concisa di approssimazione. $k$

— Anne van Rossum
fonte

(+1) questo è un bellissimo riassunto di tutti i metodi.

— kedarps,

4

Esiste un'utile tecnica di ottimizzazione alla base dell'algoritmo EM. Tuttavia, di solito è espresso nel linguaggio della teoria della probabilità, quindi è difficile capire che al centro c'è un metodo che non ha nulla a che fare con la probabilità e le aspettative.

Considera il problema di massimizzare (o equivalentemente ) rispetto a . Se scrivi un'espressione per e la poni a zero, spesso finirai con un'equazione trascendentale da risolvere. Questi possono essere cattivi.

g (x) = \sum_{i} \exp (f_{i} (x))

$g(x)=\sum_i\exp(f_i(x))$

\log g (x)

$\log g(x)$

x

$x$

g^{'} (x)

$g'(x)$

Supponiamo ora che il giocate bene insieme, nel senso che le combinazioni lineari di loro ti danno qualcosa di facile da ottimizzare. Ad esempio, se tutte le sono quadratiche in allora anche una combinazione lineare della sarà quadratica, e quindi facile da ottimizzare. $f_i$ $f_i(x)$ $x$ $f_i(x)$

Data questa supposizione, sarebbe bello se, al fine di ottimizzare il potessimo in qualche modo rimescolare il oltre modo da poter incontrare gli ed eliminare loro. Poi il potrebbe giocare insieme. Ma non possiamo farlo. $\log g(x)=\log \sum_i\exp(f_i(x))$ $\log$ $\sum$ $\exp$ $f_i$

Facciamo la prossima cosa migliore. Faremo un'altra funzione simile a . E lo faremo con combinazioni lineari di . $h$ $g$ $f_i$

Diciamo che è un'ipotesi per un valore ottimale. Vorremmo migliorare questo. Troviamo un'altra funzione che corrisponde a e alla sua derivata in , ovvero e . Se traccia un grafico di in un piccolo quartiere di sembrerà simile a . $x_0$ $h$ $g$ $x_0$ $g(x_0)=h(x_0)$ $g'(x_0)=h'(x_0)$ $h$ $x_0$ $g$

g^{'} (x) = \sum_{i} f_{i}^{'} (x) \exp (f_{i} (x)) .

$g'(x)=\sum_i f_i'(x)\exp(f_i(x)).$

x_{0}

$x_0$

h (x) = constant + \sum_{i} f_{i} (x) \exp (f_{i} (x_{0})) .

$h(x)=\mbox{constant}+\sum_i f_i(x)\exp(f_i(x_0)).$

x = x_{0}

$x=x_0$

h^{'} (x) = \sum_{i} f_{i}^{'} (x) \exp (f_{i} (x_{0})) .

$h'(x)=\sum_i f_i'(x)\exp(f_i(x_0)).$

x_{0}

$x_0$

f_{i}

$f_i$

g

$g$

h

$h$

g (x_{0}) = h (x_{0})

$g(x_0)=h(x_0)$

$x_0$ $h(x)$ $g(x)$ $x_0$ $h$ $h$

$h$

$h(x)\le g(x)$ $h(x)$ $x$ $g$ $g(x_0)$ $h$ $g$ $h$

$\exp$

— Dan Piponi
fonte

3

Come hai detto, non entrerò nei dettagli tecnici. Ci sono alcuni tutorial molto carini. Uno dei miei preferiti sono gli appunti di Andrew Ng . Dai un'occhiata anche ai riferimenti qui .

$K$
$p (x) = \sum_{i = 1}^{K} π_{i} N (x | μ_{i}, Σ_{i})$ $p(x) = \sum_{i=1}^{K}\pi_{i} \mathcal{N}(x|\mu_{i}, \Sigma_{i})$ $\pi_{i}$ $x$ $\mu_{i}$ $\Sigma_{i}$ $\pi_{i}$ rappresenta le probabilità che il componente ith possa tenere conto di quel campione) e prendere la somma ponderata. Ad esempio concreto, immagina di voler raggruppare documenti di testo. L'idea è di supporre che ogni documento appartenga a un argomento (scienza, sport, ...) che non si conosce in anticipo !. I possibili argomenti sono variabili nascoste. Quindi ti viene dato un mucchio di documenti e contando n-grammi o qualsiasi altra caratteristica che estrai, vuoi quindi trovare quei cluster e vedere a quale cluster appartiene ciascun documento. L'EM è una procedura che attacca questo problema in maniera graduale: la fase dell'aspettativa tenta di migliorare le assegnazioni dei campioni raggiunti finora. Il passaggio di massimizzazione migliora i parametri della miscela, in altre parole, la forma dei cluster.
Il punto non sta usando le funzioni monotone, ma le funzioni convesse. E la ragione è la disuguaglianza di Jensen che garantisce che le stime dell'algoritmo EM miglioreranno ad ogni passo.

— jpmuc
fonte