Algoritmi di Machine Learning basati sulla "minimizzazione del rischio strutturale"?

Quali algoritmi di machine learning (oltre a SVM) utilizzano il principio di minimizzazione del rischio strutturale ?

reference-request machine-learning

— Classifire
fonte

Che cos'è un algo?

— Dave Clarke,

algo = algoritmo;)

— Classifire

per favore usa parole complete.

— Kaveh,

ok..non volevo che il titolo fosse troppo lungo

— Classifire

Per quanto ne so, SRM non è altro che una buona vecchia regolarizzazione , che viene utilizzata assolutamente ovunque.

— Emre,

Il principio di minimizzazione del rischio strutturale è un principio che è almeno in parte 'usato' in tutti i metodi di apprendimento automatico, dal momento che spesso si deve tener conto del sovradimensionamento: ridurre la complessità del modello è (presumibilmente e in pratica) un buon modo per limitare sovradattamento.

Gli SVM hanno esplicitamente un parametro per la complessità (la dimensione dello spazio delle caratteristiche , o anche la funzione del kernel) ed è necessario perché aumentare la complessità è una parte dell'algoritmo di apprendimento.
Le reti neuronali hanno anche un facile indicatore della loro complessità (numero di "cellule") e fanno parte dell'algoritmo di apprendimento associato.
Senza questo principio, l' inferenza grammaticale sarebbe allo stesso tempo stupida e la grammatica perfetta è l'elenco di tutte le parole possibili, quindi ogni algoritmo non banale riconosce almeno questo principio.
Gli alberi decisionali hanno la loro nozione di entropia .
I cluster possono essere semplicemente contati o tipo di "uso" del principio intrinsecamente o avere un numero fisso di cluster e in tal caso si applica il principio a un livello superiore.

Ad essere sincero, non so davvero cosa succede nella programmazione genetica, ma non hanno una nozione intrinseca di complessità.

Non conosco bene la programmazione della logica induttiva ma non sembra adattarsi molto bene a questo principio.

— jmad
fonte

Conosci qualche algoritmo di apprendimento ancora più potente e meno soggetto a sovralimentazione rispetto a SVM? O forse una tecnica per migliorare SVM standard?

— Classifire

@ user2278 se da 'potente' vuol dire 'efficiente' poi SVM sono abbastanza grandi e c'è un sacco di ricerche su di esso e strumenti di utilizzarlo. Ma ovviamente dipende dal tuo problema.

— jmad

Bene, mi piacerebbe usare SVM nei mercati finanziari, e in realtà ci sono alcuni articoli dedicati a questo argomento (usando SVM per la previsione delle azioni, ecc ...). Esiste un algoritmo che sarebbe più adatto a tale scopo (soprattutto perché le serie temporali finanziarie sono così "rumorose")?

— Classifire

@ user2278 Faresti meglio a usare i documenti. Non sono un esperto. (Non sarei sorpreso che gli SVM siano i migliori per questo. Inoltre si comportano bene con il rumore.)

— jmad