Domanda generale
Supponiamo che abbiamo iid dati , , ... \ sim f (x \, | \, \ boldsymbol {\ theta}) in streaming. Vogliamo calcolare ricorsivamente la stima della massima verosimiglianza di \ boldsymbol {\ theta} . Ossia, avendo calcolato
\ hat {\ boldsymbol {\ theta}} _ {n-1} = \ underset {\ boldsymbol {\ theta} \ in \ mathbb {R} ^ p} {\ arg \ max} \ prod_ { i = 1} ^ {n-1} f (x_i \, | \, \ boldsymbol {\ theta}),
osserviamo un nuovo x_n e desideriamo in qualche modo aggiornare in modo incrementale il nostro preventivo
\ hat {\ boldsymbol {\ theta}} _ {n-1}, \, x_n \ to \ hat {\ boldsymbol {\ theta}} _ {n}
senza dover ricominciare da zero. Ci sono algoritmi generici per questo?θ n - 1 = arg max θ ∈ R p n - 1 Π i = 1 f ( x i
Esempio di giocattoli
Se , , ... , quindi