Introduzione all'apprendimento automatico per i matematici


23

In un certo senso questo è un mio incrocio da math.stackexchange e ho la sensazione che questo sito possa offrire un vasto pubblico.

Sto cercando un'introduzione matematica all'apprendimento automatico. In particolare, molta letteratura che può essere trovata è relativamente imprecisa e molte pagine vengono spese senza alcun contenuto.

Tuttavia, partendo da tale letteratura, ho scoperto i corsi di Coursera di Andrew Ng, il libro di Bishop sul riconoscimento dei modelli e infine un libro di Smola. Sfortunatamente, il libro di Smola è solo in bozza. Nel libro di Smola è possibile trovare anche prove che mi piacciono. Il libro di Bishop è già abbastanza buono, ma manca un certo rigore.

In breve: sto cercando un libro come quello di Smola, cioè il più preciso e rigoroso possibile e utilizza un background matematico (anche se le brevi introduzioni sono ovviamente OK).

Qualche consiglio?


1
In futuro, per favore, non incrociare.
Momo,

Sembra che la domanda sia incompleta - si interrompe dopo "e".
JW,

scusa, in qualche modo la mia modifica è svanita.
Quickbeam2k1

1
potresti voler spiegare perché un matematico vuole imparare sull'apprendimento automatico (per trovare un lavoro come data scientist / per fare ricerche / ecc.) che aiuterà le persone a
indicarti

1
per la scienza dei dati direi che hai bisogno di una comprensione statistica di base (ad es. regressione lineare / logistica), progettazione sperimentale, ad es. test ab ecc., e inoltre comprensione delle tecniche del sistema di raccomandazione
seanv507,

Risposte:


9

Per quello che descrivi, consiglio vivamente "Fondamenti dell'apprendimento automatico" di Mohri et.al. È un testo universitario, ma è per studenti davvero bravi. È leggibile ed è l'unico posto in cui ho trovato quella che definirei una definizione matematica di apprendimento automatico (pac e pac debole). Vale la pena leggere solo per quel motivo. Ho anche un dottorato in matematica. Conosco e mi piacciono molti dei libri sopra menzionati. Sono particolarmente affezionato a ESL per un ampio spettro di tecniche e idee, ma è un libro di statistiche con molta matematica.


1
A proposito, mi hanno detto che Schapire, nella sua tesi, ha dimostrato che il PAC debole implica il PAC. La sua prova equivale alla tecnica di potenziamento, quindi è un bell'esempio di come una domanda teorica abbia portato a un risultato molto pratico.
meh

Grazie per le tue osservazioni. Penso che lavorerò con ESL più tardi dopo aver lavorato con i libri di Mohri e Shalev-Shwartz
Quickbeam2k1

12

Consiglierei Elements of Statistical Learning (file PDF gratuito). Ha abbastanza matematica e una buona introduzione a tutte le tecniche pertinenti - insieme ad alcune intuizioni sul perché le tecniche funzionano (e quando non lo fanno).

Anche introduzione all'apprendimento statistico (che è più pratico - come farlo in R ). Ha un corso che esegue l'apprendimento statistico ; potresti trovare le lezioni su YouTube (e di nuovo PDF gratuito).


3
Questa è una raccomandazione molto bella. Inoltre, suggerisco "Imparare dai dati" di Yaser S. Abu-Mostafa. È fortemente teorico ma spiega in modo molto chiaro argomenti come la fattibilità dell'apprendimento e la dimensione VC. Sono video e diapositive disponibili online .
tiagotvv,

Secondo il suggerimento "Imparare dai dati" di Yaser S. Abu-Mostafa. Il libro è molto breve ma ricco di informazioni preziose. Si presta molta attenzione alla fattibilità dell'apprendimento e della complessità.
Vladislavs Dovgalecs,

7

Probabilmente ti piacerà Learning With Kernels di Schölkopf e Smola. Gran parte del lavoro di Schölkopf è matematicamente rigoroso.

Detto questo, probabilmente stai meglio leggendo articoli di ricerca invece che libri di testo. I lavori di ricerca contengono derivazioni complete e prove di convergenza, limiti delle prestazioni, ecc. Che molto spesso non sono inclusi nei libri di testo. Un buon punto di partenza è il Journal of Machine Learning , che è molto apprezzato e ad accesso completamente aperto. Raccomando anche gli atti di conferenze come ICML , NIPS , COLT e IJCNN .


grazie per i suggerimenti con il diario. Tuttavia, temo che le riviste siano, finora, troppo avanzate per me. Tuttavia, questa notte può essere una fonte preziosa per il futuro.
Quickbeam2k1

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.