Cosa devo studiare per l'apprendimento automatico?


9

A partire dall'anno scorso, ho studiato varie materie al fine di comprendere alcune delle tesi più importanti dell'apprendimento automatico come

S. Hochreiter e J. Schmidhuber. (1997). Memoria a breve termine . Calcolo neurale, 9 (8), 1735-1780.

Tuttavia, a causa del fatto che non ho alcun background matematico, ho iniziato a imparare materie come

  • Calcolo
  • Calcolo multivariato
  • Anaylsis matematica
  • Algebra lineare
  • Equazioni differenziali
  • Anaylsis reale (teoria della misura)
  • Probabilità e statistiche elementari
  • Statistica matematica

In questo momento, non posso dire di aver studiato rigorosamente queste materie, ma so cosa vogliono affrontare le materie sopra. Il fatto è che non so cosa devo fare a questo punto. Esistono molte materie utilizzate dall'apprendimento automatico per risolvere molti problemi e non so come utilizzarli correttamente.

Ad esempio, l'apprendimento per rinforzo è ora uno degli argomenti più popolari su cui centinaia di migliaia di ricercatori stanno facendo le loro ricerche per fare una svolta nella maledizione della dimensionalità. Ma, come futuro dipendente che lavorerà in aziende IT, il compito sulla scrivania non sarebbe qualcosa che mi aspettavo di fare.

È importante avere le mie competenze per lavorare nei campi? In tal caso, quali tipi di materie devo studiare in questo momento?

Per tua comodità, voglio saperne di più sul processo Markov e sul processo decisionale Markov.


1
Direi che se hai capito tutto in quel documento LSTM, hai più o meno già tutti i "prerequisiti" per proseguire la tua carriera in ML. Certo, troverai nuovi concetti (tutti lo fanno) a modo tuo, ma sarai in grado di affrontarli (facendo qualche ricerca per conto tuo). I processi e gli MDP di Markov non sono un grosso problema, se hai capito il documento LSTM.
nbro

Risposte:


4

Come studente di master in Intelligenza artificiale, ti consiglio vivamente di studiare alcune basi di Machine Learning.

Per farlo, puoi ottenere un buon libro ( Machine Learning , Tom Mitchell, McGraw Hill, 1997) per la teoria e la pratica da solo provando alcune competizioni di Kaggle .

Ho suggerito il libro di Mitchell perché è un esperto nel campo e molti corsi di Machine Learning usano il suo libro. Puoi anche seguire le sue videolectures online

Su Kaggle puoi trovare molti tutorial utili (chiamati come Notebook) per iniziare a lavorare con i set di dati disponibili. Alcuni tutorial su Titanic Challenge qui


5

In realtà, non è necessario uno studio rigoroso di queste materie per implementare gli algoritmi di Machine Learning. Solo la teoria della probabilità deve essere trattata rigorosamente nell'apprendimento automatico. Puoi trovare un'ottima serie di lezioni sulla teoria della probabilità qui:

Introduzione alla probabilità: la scienza dell'incertezza

Inoltre, sarebbe sufficiente un corso base in Calcolo, per implementazioni di base in realtà non è necessaria la comprensione di Calcolo di alto livello a meno che non si desideri creare schemi di aggiornamento del peso su misura o reti neurali con qualcosa di nuovo. Ma per avere un'intuizione su Calculus controlla Khan Academy: Calculus

Sono sufficienti alcune idee di base sull'algebra lineare, solo per visualizzare le cose e ottenere un'intuizione. L'accademia di Khan ha un ottimo corso su questo, ti consiglio di dare un'occhiata: Algebra lineare

Poiché, per i linguaggi di programmazione, Machine Learning o NEural Nets è meglio implementare in Python o R poiché la visualizzazione e la programmazione dei dati in essi sono abbastanza facili.

La cosa principale sull'implementazione delle reti neurali e dell'apprendimento automatico è la pratica, più si pratica meglio si ottiene. Avrai anche un'intuizione di cosa stai facendo con la pratica. Solo leggere la teoria e comprendere i concetti non ti aiuterà. Devi implementarlo nella vita reale. Per quanto riguarda il libro, puoi vedere la mia risposta qui:

Verificate fonti di teoria / strumenti / applicazioni di intelligenza artificiale per un programmatore esperto nuovo sul campo?


3

Ho trovato molto utili i modelli statistici. Tuttavia, le statistiche da sole non bastano, è anche necessario un background molto solido nella teoria delle probabilità.


1

impara prima le basi di Python. Inizia con il teorema di baye quindi vai a 1) funzioni di densità di probabilità 2) funzioni di densità cumulativa 3) funzioni continue 4) teorema del limite centrale.


Oltre a questo, pensi che sia importante imparare la teoria della probabilità a livello di laurea per vedere alcune tesi di apprendimento avanzato a livello avanzato? Inoltre, supponiamo che io conosca tutte le cose sopra (non intendo essere scortese ma, ad essere sincero, so qual è la differenza tra continuità e continuità uniforme, pdf, cdf, mgf ed ecc), vero? pensi che sia importante imparare il processo markov per creare un programma a livello di produzione?
Foreste del vento,

1

Innanzitutto, un breve background su di me. Ero uno studente pre-medico che si è laureato con una laurea in biofisica. Dopo un duro lavoro e un processo decisionale intelligente, ora sono un ingegnere informatico AI / ML con un Master in Informatica (specialità in Machine Learning).

È importante avere le mie competenze per lavorare nei campi?

Sì, assolutamente, ma non necessariamente in un contesto professionale. Non è necessario essere stato impiegato come ingegnere informatico del machine learning, ma è necessario dimostrare competenza nel settore. Il che è un ottimo seguito della seconda parte della tua domanda ...

In tal caso, quali tipi di materie devo studiare in questo momento?

Il loro non è un argomento a cui dovresti concentrarti. L'apprendimento automatico è una combinazione di molti campi diversi e non sarebbe molto efficiente concentrarsi solo su uno prima di immergersi in una pratica più approfondita. Invece, tutorial e pratica sono il nome del gioco.

  • 3Blue1Brown su Youtube offre ottimi tutorial, in particolare sulle reti neurali
  • Khan Academy è una manna dal cielo quando si tratta di tutorial di matematica. L'algebra lineare e la probabilità / statistica sono le migliori per cominciare, direi. Ma alla fine vengono anche utilizzati il ​​calcolo multivariabile e le equazioni differenziali.
  • Udacity è un ottimo sito tutorial che offre anche programmi "nanodegree" per darti più esperienza pratica nell'intelligenza artificiale e nell'apprendimento automatico. È gratuito se vuoi solo vedere i video.
  • OpenAIGym è un ottimo posto per praticare l'apprendimento per rinforzo
  • Kaggle ha grandi tutorial sull'apprendimento automatico e i loro concorsi forniscono un'ottima pratica con l'apprendimento supervisionato / non supervisionato.

Completa il tuo sviluppo nella teoria e nel background matematico con lo sviluppo pratico e la pratica per ottenere i migliori risultati. Lei menziona un focus specifico su MDP, con il quale i tutorial di Udacity e OpenAIGym darebbero entrambi un'ottima pratica.

Se sei interessato a un Master, non posso raccomandare abbastanza il Master in Informatica ( OMSCS ) di Georgia Tech . È un'ottima istruzione e (quando sono stato iscritto nel 2015) non ha richiesto GRE e costa solo circa $ 8000,00


-1

Impara l'apprendimento automatico in 3 mesi

Questo è il curriculum per "Impara l'apprendimento automatico in 3 mesi" questo video di Siraj Raval su Youtube

Mese 1

Settimana 1 Algebra lineare

https://www.youtube.com/watch?v=kjBOesZCoqc&index=1&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab https://ocw.mit.edu/courses/mathematics/18-06-linear-algebra-spring-2010/

Calcolo della settimana 2

https://www.youtube.com/playlist?list=PLZHQObOWTQDMsr9K-rj53DwVRMYO3t5Yr

Probabilità della settimana 3

https://www.edx.org/course/introduction-probability-science-mitx-6-041x-2

Algoritmi della settimana 4

https://www.edx.org/course/algorithm-design-analysis-pennx-sd3x

Mese 2

Settimana 1

Scopri python per la scienza dei dati

https://www.youtube.com/watch?v=T5pRlIbr6gg&list=PL2-dafEMk2A6QKz1mrk1uIGfHkC1zZ6UU

Matematica dell'intelligenza

https://www.youtube.com/watch?v=xRJCOz3AfYY&list=PL2-dafEMk2A7mu0bSksCGMJEmeddU_H4D

Introduzione a Tensorflow

https://www.youtube.com/watch?v=2FmcHiLCwTU&list=PL2-dafEMk2A7EEME489DsI468AB0wQsMV

Settimana 2

Introduzione a ML (Udacity) https://eu.udacity.com/course/intro-to-machine-learning--ud120

Settimana 3-4

ML Project Ideas https://github.com/NirantK/awesome-project-ideas

Mese 3 (Deep Learning)

Settimana 1

Introduzione al Deep Learning https://www.youtube.com/watch?v=vOppzHpvTiQ&list=PL2-dafEMk2A7YdKv4XfKpfbTH5z6rEEj3

Settimana 2

Deep Learning di Fast.AI http://course.fast.ai/

Settimana 3-4

Implementare nuovamente i progetti DL dal mio github https://github.com/llSourcell?tab=repositories


Risorse aggiuntive:
- Persone su ML da seguire su Twitter


1
Sì, posso dirti perché ho votato in negativo questa risposta. 1) Non credo che tu possa imparare bene l'apprendimento automatico in 3 mesi, studiando anche i prerequisiti. 2) Ognuno ha il suo ritmo durante l'apprendimento, quindi limitare l'apprendimento a 3 mesi non è una buona idea. 3) Stai collegando le persone ad altre fonti senza spiegare il perché.
nbro

Non possiamo essere un PRO, ma almeno Nuance per fare un po 'e guidare una competizione ML. Se inserisco un link, ho indicato lì cosa otterrete da quel link. Inoltre ognuno ha il proprio ritmo di apprendimento. Sono d'accordo anche a questo punto, ma puoi sporcarti le mani in questi tre mesi. Questa è una risposta molto generica, dato che nessuno sa nulla, ma vogliono solo iniziare e acquisire sicurezza dopo che possono iniziare a scavare più a fondo.
Maheshwar Ligade,

@nbro Se accetto il tuo punto, ognuno ha il proprio ritmo di apprendimento, allora almeno poche persone possono approfittare di questa risposta
Maheshwar Ligade,

Questa risposta è più applicabile agli ingegneri non per ricercatore e scienziato
Maheshwar Ligade,
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.