Come dimostrare che non esiste spazio di funzionalità a dimensioni finite per il kernel gaussiano RBF?


14

Come dimostrare che per la funzione di base radiale non esiste uno spazio delle caratteristiche a dimensione finita tale che per alcuni abbiamo ?k(x,y)=exp(||xy||2)2σ2)HΦ:RnHk(x,y)=Φ(x),Φ(y)


Questa domanda è più appropriata per la matematica?
Leo,

1
Un possibile piano di attacco sarebbe quello di esibire un sottospazio di che non è chiuso. H
Nick Alger,

@Nick Alger: forse questo aiuta: stats.stackexchange.com/questions/80398/…

Risposte:


11

Il teorema di Moore-Aronszajn garantisce che un kernel definito positivo simmetrico sia associato a un unico spazio di riproduzione del kernel di Hilbert. (Notare che mentre RKHS è unico, la mappatura stessa non lo è.)

Pertanto, è possibile rispondere alla tua domanda esibendo un RKHS di dimensione infinita corrispondente al kernel gaussiano (o RBF). Puoi trovare uno studio approfondito di questo in " Una descrizione esplicita degli spazi del kernel riproducente Hilbert dei kernel gaussiani RBF ", Steinwart et al.


2

Supponiamo che il kernel gaussiano RBF sia definito sul dominio X × X dove X contiene un numero infinito di vettori. Si può dimostrare ( gaussiana Kernel, perché sono rango pieno? ) Che per ogni insieme di vettori distinti x 1 , . . . , x m matrice X ( k ( x i , x j ) ) m × m non è singolare, il che significa che i vettori Φ (k(x,y)X×XXx1,...,xmX(k(xi,xj))m×m sono linearmente indipendenti. Pertanto, uno spazio delle funzioni H per il kernel k non può avere un numero finito di dimensioni.Φ(x1),...,Φ(xm)Hk


Φ
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.