Convoluzione 1D nelle reti neurali

Capisco come funziona la convoluzione ma non capisco come le convoluzioni 1D vengano applicate ai dati 2D.

Convoluzione 2D

In questo esempio puoi vedere una convoluzione 2D in un dato 2D. Ma come sarebbe se fosse una convoluzione 1D? Solo un kernel 1D che scorre allo stesso modo? E se il passo fosse 2?

Grazie!

conv-neural-network

— Gustavo
fonte

Guarda la prima riga di ogni matrice.

— Piotr Migdal

Puoi farmi un esempio?

— Gustavo

Le convoluzioni 1d non sarebbero davvero utili per una rigorosa immagine 2d. Le immagini non in scala di grigi sono tecnicamente 3D poiché hanno tre canali di colore.

— Ethan,

@Gustavo Come questo: toto-share.com/wp-content/uploads/2011/11/… A meno che tu non intenda la convoluzione 1x1 (nel senso delle reti neurali), che è una cosa diversa.

— Piotr Migdal

Il mio problema è con convoluzioni come: d3kbpzbmcynnmx.cloudfront.net/wp-content/uploads/2015/11/… Ci sono due convoluzioni, una con dimensione del kernel 3 e l'altra con dimensione 2 ... Ma quei kernel sono 1D o dimensione xk ?

— Gustavo

Risposte:

$x_1, …,x_n$ $n$ $n=3$

Per una spiegazione leggermente più matematica, puoi dare un'occhiata a Ji Young Lee, Franck Dernoncourt. " Classificazione sequenziale di testi brevi con reti neurali ricorrenti e convoluzionali ". NAACL 2016 . sezione 2.1.2:

— Franck Dernoncourt
fonte

Le convoluzioni 1D sono utilizzate nelle reti convoluzionali per il down-sampling e il up-sampling nella dimensione del filtro. Le reti convoluzionali costruiscono queste mappe di filtro mentre attraversi la rete, puoi davvero pensarle come una terza dimensione. Il solito caso base della dimensione della mappa del filtro ha una dimensione di 3, poiché spesso avremo immagini RGB che attraversano la nostra rete.

Queste convoluzioni 1D possono essere utili per il down-sampling, l'esecuzione di alcune operazioni, quindi il back-up del campionamento nella stessa dimensione. Questo è abbastanza utile per motivi di prestazioni.

Per capire davvero intuitivamente suggerirei di leggere:

Rete in rete - http://arxiv.org/abs/1312.4400

Approfondimento delle convoluzioni - https://www.google.com/url?sa=t&source=web&rct=j&url=http://www.cs.unc.edu/~wliu/papers/GoogLeNet.pdf&ved=0ahUKEwi89oeuxqnLAhXhuIMKHZrTQQ0 rrECNQ72wI3PH1Qw & SIG2 = VhjfaMvuskNIDVKhFfNiqQ

— Ethan
fonte

Sembra che tu parli di convoluzioni 1x1 (nel senso di reti neurali) piuttosto che convoluzioni 1D.

— Piotr Migdal

Bene, ho pensato che fossero coinvolte le reti neurali. Mi sono imbattuto in un link a questa domanda su / r / MLQuestions su reddit, quindi ho pensato che fosse correlato alla ML. Ma per la semplice convoluzione questo non è così rilevante: P.

— Ethan,