Statistiche e Big Data k-nearest-neighbour

1

Sono nuovo ai kernel e ho colpito un intoppo mentre provavo a kernelizzare kNN. Preliminari Io sto usando un kernel polinomiale: K(x,y)=(1+⟨x,y⟩)dK(x,y)=(1+⟨x,y⟩)dK(\mathbf{x},\mathbf{y}) = (1 + \langle \mathbf{x},\mathbf{y} \rangle)^d Il tuo tipico kNN euclideo usa la seguente metrica della distanza: d(x,y)=||x−y||d(x,y)=||x−y||d(\mathbf{x}, \mathbf{y}) = \vert\vert \mathbf{x} - \mathbf{y} \vert\vert Consenti a mappare …

12 machine-learning kernel-trick k-nearest-neighbour

3

Spiegazione della formula per il punto più vicino mediano all'origine di N campioni dalla sfera unitaria

In Elements of Statistical Learning , viene introdotto un problema per evidenziare i problemi con k-nn in spazi ad alta dimensione. Esistono punti dati distribuiti uniformemente in una sfera di unità dimensionale.NNNppp La distanza mediana dall'origine al punto dati più vicino è data dall'espressione: d(p,N)=(1−(12)1N)1pd(p,N)=(1−(12)1N)1pd(p,N) = \left(1-\left(\frac{1}{2}\right)^\frac{1}{N}\right)^\frac{1}{p} Quando , la …

11 self-study proof k-nearest-neighbour

3

Perché dobbiamo adattare un classificatore k-vicini più vicini?

Come ho capito, k-NN è un algoritmo di studente pigro e non ha bisogno di una fase di allenamento. Quindi perché dobbiamo usare .fit()con sklearn e cosa succede quando lo usiamo?

11 classification scikit-learn k-nearest-neighbour

1

Pro della distanza Jeffries Matusita

Secondo alcuni articoli che sto leggendo, la distanza di Jeffries e Matusita è comunemente usata. Ma non sono riuscito a trovare molte informazioni su di esso ad eccezione della formula seguente JMD (x, y) =∑(xi−−√2−yi−−√2)2−−−−−−−−−−−−−√2∑(xi2−yi2)22\sqrt[2]{\sum(\sqrt[2]{x_i}-\sqrt[2]{y_i})^2} È simile alla distanza euclidea ad eccezione della radice quadrata E (x, y) =∑(xi−yi)2−−−−−−−−−−√2∑(xi−yi)22\sqrt[2]{\sum(x_i-y_i)^2} La …

11 classification k-nearest-neighbour euclidean

4

Maledizione della dimensionalità: classificatore kNN

Sto leggendo il libro di Kevin Murphy: Machine Learning - Una prospettiva probabilistica. Nel primo capitolo l'autore sta spiegando la maledizione della dimensionalità e c'è una parte che non capisco. Ad esempio, l'autore afferma: Considerare che gli ingressi sono distribuiti uniformemente lungo un cubo unità D-dimensionale. Supponiamo di stimare la …

11 self-study k-nearest-neighbour high-dimensional

1

Dimensione VC del vicino k più vicino

Qual è la dimensione VC dell'algoritmo vicino più vicino k se k è uguale al numero di punti di allenamento utilizzati? Contesto: questa domanda è stata posta in un corso che seguo e la risposta fornita è stata 0. Tuttavia, non capisco perché sia così. La mia intuizione è che …

10 machine-learning self-study k-nearest-neighbour vc-dimension

1

Teorema del No-Free-Lunch e coerenza di K-NN

Nell'apprendimento computazionale, il teorema della NFL afferma che non esiste uno studente universale. Per ogni algoritmo di apprendimento, esiste una distribuzione che fa sì che lo studente produca un'ipotesi con un errore grande, con alta probabilità (sebbene ci sia un'ipotesi di errore bassa). La conclusione è che per imparare, la …

10 k-nearest-neighbour consistency

2

K-più vicino-vicino con variabili continue e binarie

Ho un set di dati con colonne a b c(3 attributi). aè numerico e continuo mentre be csono categorici ciascuno con due livelli. Sto usando il metodo vicini K-Nearest per classificare ae bsu c. Quindi, per poter misurare le distanze trasformo il mio set di dati rimuovendo, baggiungendo b.level1e b.level2. …

10 r classification k-nearest-neighbour

4

Perché KNN non è "basato sul modello"?

Il capitolo 2.4 dell'ESL sembra classificare la regressione lineare come "basata sul modello", poiché assume , mentre non viene dichiarata un'approssimazione simile per i vicini k-più vicini. Ma entrambi i metodi non fanno ipotesi su ?f ( x )f( x ) ≈ x ⋅ βf(x)≈x⋅βf(x) \approx x\cdot\betaf( x )f(x)f(x) Più …

10 machine-learning model k-nearest-neighbour

4

Data una catena MCMC 10D, come posso determinare le sue modalità posteriori in R?

Domanda: con una catena MCMC a 10 dimensioni, diciamo che sono pronto a consegnarti una matrice dei disegni: 100.000 iterazioni (righe) per 10 parametri (colonne), come posso identificare al meglio le modalità posteriori? Mi occupo soprattutto di più modalità. Sfondo:Mi considero uno statistico esperto di calcolo, ma quando un collega …

10 r bayesian mcmc k-nearest-neighbour mode

1

Quale tipo di normalizzazione dei dati dovrebbe essere usato con KNN?

So che esistono più di due tipi di normalizzazione. Per esempio, 1- Trasformazione dei dati utilizzando un punteggio z o un punteggio t. Questo di solito si chiama standardizzazione. 2- Riscalare i dati per avere valori compresi tra 0 e 1. La domanda ora se ho bisogno di normalizzare Quale …

9 machine-learning normalization standardization k-nearest-neighbour

2

Errore di addestramento nel classificatore KNN quando K = 1

Ho ricevuto questa domanda in un quiz, mi ha chiesto quale sarà l'errore di addestramento per un classificatore KNN quando K = 1. Cosa significa formazione per un classificatore KNN? La mia comprensione del classificatore KNN era che considera l'intero set di dati e assegna a ogni nuova osservazione il …

8 classification supervised-learning k-nearest-neighbour

Domande taggate «k-nearest-neighbour»