Statistiche e Big Data optimization

2

Cos'è la minimizzazione energetica nell'apprendimento automatico?

Stavo leggendo dell'ottimizzazione per un problema male posto nella visione artificiale e ho trovato la spiegazione di seguito sull'ottimizzazione su Wikipedia. Quello che non capisco è, perché chiamano questa ottimizzazione " Riduzione al minimo dell'energia " in Computer Vision? Un problema di ottimizzazione può essere rappresentato nel modo seguente: Dato: …

14 machine-learning optimization computer-vision

2

Perché k-mean non è ottimizzato usando la discesa gradiente?

So che k-medie è di solito ottimizzato usando l'ottimizzazione delle aspettative . Tuttavia, potremmo ottimizzare la sua funzione di perdita nello stesso modo in cui ne ottimizziamo tutti gli altri! Ho trovato alcuni documenti che usano effettivamente la pendenza stocastica del gradiente per k-medie su larga scala, ma non sono …

14 optimization k-means expectation-maximization loss-functions

2

Ottimizzazione: la radice di tutto il male nelle statistiche?

Ho già sentito la seguente espressione: "L'ottimizzazione è la radice di ogni male nelle statistiche". Ad esempio, la risposta migliore in questa discussione fa questa affermazione in riferimento al pericolo di ottimizzazione troppo aggressiva durante la selezione del modello. La mia prima domanda è la seguente: questa citazione è attribuibile …

14 cross-validation optimization overfitting

1

Libreria di ottimizzazione vincolata per vincoli di uguaglianza e disuguaglianza

Qualche consiglio per la scelta di una libreria di ottimizzazione vincolata adatta alla mia funzione di ottimizzazione? Sto minimizzando ai) la funzione non lineare con vincoli di uguaglianza e disuguaglianza lineari, e ii) ho a disposizione il gradiente e la tela di iuta della funzione. Se aiuta, la funzione che …

14 r optimization software

3

Come devono essere ordinate la selezione delle caratteristiche e l'ottimizzazione dell'iperparametro nella pipeline dell'apprendimento automatico?

Il mio obiettivo è classificare i segnali dei sensori. Finora il concetto della mia soluzione è: i) Funzionalità di ingegneria dal segnale non elaborato ii) Selezione di funzionalità rilevanti con ReliefF e un approccio di clustering iii) Applicazione di NN, Random Forest e SVM Tuttavia sono intrappolato in un dilemma. …

14 feature-selection hyperparameter optimization

2

Convalida incrociata e ottimizzazione dei parametri

Ho una domanda sull'ottimizzazione dei parametri quando utilizzo la convalida incrociata 10 volte. Voglio chiedere se i parametri devono essere corretti o meno durante l'allenamento del modello di ogni piega, ovvero (1) selezionare un set di parametri ottimizzati per la precisione media di ogni piega. o (2) Dovrei trovare il …

14 cross-validation optimization parameterization

1

Come funziona L-BFGS?

Lo scopo del documento era ottimizzare alcuni parametri massimizzando la probabilità di log regolarizzata. Quindi calcolano i derivati parziali. E poi gli autori menzionano che ottimizzano l'equazione usando L-BFGS, una procedura quasi-Newton standard per ottimizzare le funzioni regolari di molte variabili (niente più dettagli). Come funziona ?

14 algorithms optimization

5

Domanda filosofica sulla regressione logistica: perché non viene allenato il valore soglia ottimale?

Di solito nella regressione logistica, adattiamo un modello e otteniamo alcune previsioni sul set di addestramento. Quindi convalidiamo in modo incrociato quelle previsioni di allenamento (qualcosa come qui ) e decidiamo il valore di soglia ottimale in base a qualcosa come la curva ROC. Perché non incorporiamo la validazione incrociata …

13 logistic cross-validation optimization roc threshold

2

Ottimizzazione e apprendimento automatico

Volevo sapere quanta parte dell'apprendimento automatico richiede ottimizzazione. Da quello che ho sentito la statistica è un argomento matematico importante per le persone che lavorano con l'apprendimento automatico. Allo stesso modo, quanto è importante che qualcuno che lavora con l'apprendimento automatico apprenda l'ottimizzazione convessa o non convessa?

13 machine-learning optimization

2

KKT in breve graficamente

Obbiettivo Conferma se la comprensione di KKT è corretta o meno. Cerca ulteriori spiegazioni e conferme su KKT. sfondo Cercare di capire le condizioni di KKT, in particolare quella complementare, che emerge sempre di punto in bianco negli articoli SVM. Non ho bisogno di un elenco di formule astratte ma …

13 svm optimization lagrange-multipliers

1

Stato dell'arte nel filtraggio collaborativo

Sto lavorando a un progetto per il filtro collaborativo (CF), ovvero il completamento di una matrice parzialmente osservata o più generalmente tensore. Sono un principiante sul campo, e per questo progetto alla fine devo confrontare il nostro metodo con altri ben noti che al giorno d'oggi, i metodi proposti vengono …

13 optimization recommender-system matrix-decomposition

2

Se p> n, il lazo seleziona al massimo n variabili

Una delle motivazioni per la rete elastica è stata la seguente limitazione di LASSO: Nel p>np>np > n caso , il lazo seleziona al massimo n variabili prima di saturare, a causa della natura del problema di ottimizzazione convessa. Questa sembra essere una funzione limitante per un metodo di selezione …

13 regression optimization feature-selection lasso

1

Problema di ottimizzazione

Un mio amico vende modelli di frullatori. Alcuni dei frullatori sono molto semplici ed economici, altri sono molto sofisticati e più costosi. I suoi dati consistono, per ogni mese, dei prezzi di ciascun frullatore (che sono fissati da lui) e del numero di unità vendute per ciascun modello. Per stabilire …

13 optimization

4

Alternative veloci all'algoritmo EM

Esistono alternative rapide all'algoritmo EM per i modelli di apprendimento con variabili latenti (in particolare pLSA)? Sto bene sacrificando la precisione a favore della velocità.

13 machine-learning optimization expectation-maximization lsa

1

Perché il classificatore bayes ingenuo è ottimale per la perdita 0-1?

Il classificatore Naive Bayes è il classificatore che assegna gli elementi xxx a una classe CCC base alla massimizzazione della posteriore ( C | x )P(C|x)P(C|x)P(C|x) per l'appartenenza alla classe e presuppone che le caratteristiche degli elementi siano indipendenti. La perdita 0-1 è la perdita che assegna a qualsiasi classificazione …

13 machine-learning bayesian optimization naive-bayes loss-functions

Domande taggate «optimization»