Quali sono buoni riferimenti sulla comprensione dell'apprendimento online?

In particolare, sto chiedendo risorse per conoscere i sistemi di apprendimento automatico che possono aggiornare le rispettive reti di credenze (o equivalenti) durante il funzionamento. Ne ho anche incontrati alcuni, anche se non sono riuscito a segnalarli.

Come puoi immaginare, è un argomento piuttosto impegnativo da cercare su Internet.

La maggior parte degli algoritmi di apprendimento online proviene da almeno uno di questi lignaggi:

• il percettrone

  I percetroni allo stato dell'arte sono l' algoritmo passivo-aggressivo , il perceptron strutturato e le loro numerose varietà.

• Il winnow

  Il winnow è stato riformulato come metodi di gradiente esponenziale e può essere applicato anche a problemi strutturati . Esistono anche varietà che si occupano direttamente della regolarizzazione L1 (per garantire la scarsità), come SMIDAS .

• Discesa gradiente stocastica

  La discesa stocastica del gradiente si verifica quando si applica l'ottimizzazione online a un possibile problema batch. Stato degli algoritmi d'arte sono di Léon Bottou LaSVM , Pegasos , e molti algoritmi di reti neurali possono essere facilmente addestrati in questa impostazione. Vedi il tutorial theano per molti esempi. Forse EM online si adatta qui.

• filtro antiparticolato

  Questo è anche noto come inferenza rao-blackwellized e consente di aggiornare un modello grafico / probabilistico man mano che arrivano più dati. Alcuni buoni esempi sono i modelli di argomenti online e il tutorial NIPS su SMC .

Ci sono anche alcuni problemi più ampi con l'apprendimento online, come la conversione da online a batch , tecniche di budget per l'apprendimento online con kernel (come questo documento , questo documento e questo documento ), molti diversi gusti di limiti di generalizzazione, preoccupazioni di scarsità (e anche il documento SMIDAS che ho citato sopra), hashing per risparmiare memoria e molti altri problemi.

Avrim Blum è un fantastico documento di indagine che consiglierei di iniziare con: "Algorithms online in Machine Learning" http://www.cs.cmu.edu/~avrim/Papers/survey.ps

Se stai cercando informazioni sulla teoria dell'apprendimento online, il libro di Cesa-Bianchi e Lugosi è un solido riferimento.

C'è un bel tutorial dell'ICML 2008 di Yoram Singer e Shai Shalev Shwartz sulla teoria e la pratica dell'apprendimento online.

Apprendimento automatico - Materiale del corso - Stanford http://www.stanford.edu/class/cs229/materials.html

Lezioni video di Machine Learning e Intelligenza artificiale http://freescienceonline.blogspot.com/2007/07/machine-learning-and-artificial.html

Processi gaussiani per l'apprendimento automatico http://www.gaussianprocess.org/gpml/