Domande taggate «hyperparameter»

Un parametro che non è strettamente per il modello statistico (o processo di generazione dei dati), ma un parametro per il metodo statistico. Potrebbe essere un parametro per: una famiglia di distribuzioni precedenti, smoothing, una penalità nei metodi di regolarizzazione o un algoritmo di ottimizzazione.

3
Un esempio: regressione di LASSO utilizzando glmnet per il risultato binario
Sto iniziando a dilettarsi con l'uso di glmnetcon LASSO Regressione dove il mio risultato di interesse è dicotomica. Di seguito ho creato un piccolo frame di dati finti: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) …
78 r  self-study  lasso  regression  interpretation  anova  statistical-significance  survey  conditional-probability  independence  naive-bayes  graphical-model  r  time-series  forecasting  arima  r  forecasting  exponential-smoothing  bootstrap  outliers  r  regression  poisson-distribution  zero-inflation  genetic-algorithms  machine-learning  feature-selection  cart  categorical-data  interpretation  descriptive-statistics  variance  multivariate-analysis  covariance-matrix  r  data-visualization  generalized-linear-model  binomial  proportion  pca  matlab  svd  time-series  correlation  spss  arima  chi-squared  curve-fitting  text-mining  zipf  probability  categorical-data  distance  group-differences  bhattacharyya  regression  variance  mean  data-visualization  variance  clustering  r  standard-error  association-measure  somers-d  normal-distribution  integral  numerical-integration  bayesian  clustering  python  pymc  nonparametric-bayes  machine-learning  svm  kernel-trick  hyperparameter  poisson-distribution  mean  continuous-data  univariate  missing-data  dag  python  likelihood  dirichlet-distribution  r  anova  hypothesis-testing  statistical-significance  p-value  rating  data-imputation  censoring  threshold 
3
Qual è la ragione per cui Adam Optimizer è considerato robusto per il valore dei suoi iper parametri?
Stavo leggendo dell'ottimizzatore Adam per Deep Learning e mi sono imbattuto nella frase seguente nel nuovo libro Deep Learning di Bengio, Goodfellow e Courville: Adam è generalmente considerato abbastanza robusto per la scelta dei parametri iper, sebbene il tasso di apprendimento a volte debba essere modificato rispetto al valore predefinito …
2
Interpretazione naturale per iperparametri LDA
Qualcuno può spiegare qual è la naturale interpretazione degli iperparametri LDA? ALPHAe BETAsono parametri delle distribuzioni di Dirichlet rispettivamente per (per documento) argomento e (per argomento). Tuttavia qualcuno può spiegare cosa significa scegliere valori più grandi di questi iperparametri rispetto a valori più piccoli? Ciò significa mettere delle credenze precedenti …
5
Cosa c'è in un nome: iperparametri
Quindi in una distribuzione normale, abbiamo due parametri: mean e variance . Nel libro Pattern Recognition and Machine Learning , appare improvvisamente un iperparametro nei termini di regolarizzazione della funzione di errore.μμ\muσ2σ2\sigma^2λλ\lambda Cosa sono gli iperparametri? Perché sono nominati come tali? E in che modo sono intuitivamente diversi dai parametri …
2
Vantaggi dell'ottimizzazione dello sciame di particelle rispetto all'ottimizzazione bayesiana per l'ottimizzazione dell'iperparametro?
Esiste una sostanziale ricerca contemporanea sull'ottimizzazione bayesiana (1) per la messa a punto di iperparametri ML. La motivazione principale qui è che è richiesto un numero minimo di punti dati per fare scelte informate su quali punti valgono la pena provare (le chiamate di funzione obiettive sono costose, quindi fare …
3
Come devono essere ordinate la selezione delle caratteristiche e l'ottimizzazione dell'iperparametro nella pipeline dell'apprendimento automatico?
Il mio obiettivo è classificare i segnali dei sensori. Finora il concetto della mia soluzione è: i) Funzionalità di ingegneria dal segnale non elaborato ii) Selezione di funzionalità rilevanti con ReliefF e un approccio di clustering iii) Applicazione di NN, Random Forest e SVM Tuttavia sono intrappolato in un dilemma. …
2
La soglia di decisione è un iperparametro nella regressione logistica?
Le classi previste dalla regressione logistica (binaria) sono determinate usando una soglia sulle probabilità di appartenenza alla classe generate dal modello. A quanto ho capito, in genere 0,5 viene utilizzato per impostazione predefinita. Ma variando la soglia cambieranno le classificazioni previste. Questo significa che la soglia è un iperparametro? In …
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.