Domande taggate «kernel-trick»

I metodi del kernel sono utilizzati nell'apprendimento automatico per generalizzare le tecniche lineari a situazioni non lineari, in particolare SVM, PCA e GP. Da non confondere con [smoothing del kernel], per la stima della densità del kernel (KDE) e la regressione del kernel.

3
Un esempio: regressione di LASSO utilizzando glmnet per il risultato binario
Sto iniziando a dilettarsi con l'uso di glmnetcon LASSO Regressione dove il mio risultato di interesse è dicotomica. Di seguito ho creato un piccolo frame di dati finti: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) …
78 r  self-study  lasso  regression  interpretation  anova  statistical-significance  survey  conditional-probability  independence  naive-bayes  graphical-model  r  time-series  forecasting  arima  r  forecasting  exponential-smoothing  bootstrap  outliers  r  regression  poisson-distribution  zero-inflation  genetic-algorithms  machine-learning  feature-selection  cart  categorical-data  interpretation  descriptive-statistics  variance  multivariate-analysis  covariance-matrix  r  data-visualization  generalized-linear-model  binomial  proportion  pca  matlab  svd  time-series  correlation  spss  arima  chi-squared  curve-fitting  text-mining  zipf  probability  categorical-data  distance  group-differences  bhattacharyya  regression  variance  mean  data-visualization  variance  clustering  r  standard-error  association-measure  somers-d  normal-distribution  integral  numerical-integration  bayesian  clustering  python  pymc  nonparametric-bayes  machine-learning  svm  kernel-trick  hyperparameter  poisson-distribution  mean  continuous-data  univariate  missing-data  dag  python  likelihood  dirichlet-distribution  r  anova  hypothesis-testing  statistical-significance  p-value  rating  data-imputation  censoring  threshold 
3
Come dimostrare che la funzione di base radiale è un kernel?
Come dimostrare che la funzione di base radiale k(x,y)=exp(−||x−y||2)2σ2)k(x,y)=exp⁡(−||x−y||2)2σ2)k(x, y) = \exp(-\frac{||x-y||^2)}{2\sigma^2})è un kernel? Per quanto ho capito, per dimostrarlo dobbiamo provare uno dei seguenti: Per ogni insieme di vettori x1,x2,...,xnx1,x2,...,xnx_1, x_2, ..., x_n matrice K(x1,x2,...,xn)K(x1,x2,...,xn)K(x_1, x_2, ..., x_n) = (k(xi,xj))n×n(k(xi,xj))n×n(k(x_i, x_j))_{n \times n} è semidefinita positiva. Una mappatura ΦΦ\Phi …
35 svm  kernel-trick 
3
C'è qualche problema di apprendimento supervisionato che le reti neurali (profonde) ovviamente non possono superare qualsiasi altro metodo?
Ho visto che le persone hanno fatto molti sforzi su SVM e kernel e sembrano piuttosto interessanti come principianti in Machine Learning. Ma se ci aspettiamo che quasi sempre potremmo trovare soluzioni migliori in termini di (profonda) rete neurale, che senso ha provare altri metodi in questa era? Ecco il …
3
Differenza tra SVM e percettrone
Sono un po 'confuso con la differenza tra un SVM e un percettrone. Vorrei provare a sintetizzare la mia comprensione qui, e non esitate a correggere dove sbaglio e compilare ciò che ho perso. Il Perceptron non tenta di ottimizzare la "distanza" di separazione. Finché trova un iperpiano che separa …
4
La differenza dei kernel in SVM?
Qualcuno può dirmi la differenza tra i kernel in SVM: Lineare Polinomio Gaussiano (RBF) sigmoid Perché, come sappiamo, il kernel viene utilizzato per mappare il nostro spazio di input nello spazio di funzionalità ad alta dimensionalità. E in quello spazio delle caratteristiche, troviamo il confine linearmente separabile. Quando vengono utilizzati …
3
Mappa delle funzionalità per il kernel gaussiano
In SVM, il kernel gaussiano è definito come: dove x, y \ in \ mathbb {R ^ n} . Non conosco l'equazione esplicita di \ phi . Voglio saperloK(x,y)=exp(−∥x−y∥222σ2)=ϕ(x)Tϕ(y)K(x,y)=exp⁡(−‖x−y‖222σ2)=ϕ(x)Tϕ(y)K(x,y)=\exp\left({-\frac{\|x-y\|_2^2}{2\sigma^2}}\right)=\phi(x)^T\phi(y)x,y∈Rnx,y∈Rnx, y\in \mathbb{R^n}ϕϕ\phi Voglio anche sapere se ∑iciϕ(xi)=ϕ(∑icixi)∑iciϕ(xi)=ϕ(∑icixi)\sum_ic_i\phi(x_i)=\phi \left(\sum_ic_ix_i \right) dove ci∈Rci∈Rc_i\in \mathbb R . Ora, penso che non sia uguale, perché …
1
Quale funzione potrebbe essere un kernel?
Nel contesto dell'apprendimento automatico e del riconoscimento di modelli, esiste un concetto chiamato Kernel Trick . Di fronte a problemi in cui mi viene chiesto di determinare se una funzione potrebbe essere una funzione del kernel o meno, cosa si dovrebbe fare esattamente? Dovrei prima verificare se hanno la forma …
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.