Come vengono applicati i kernel alle mappe caratteristiche per produrre altre mappe caratteristiche?

Sto cercando di comprendere la parte di convoluzione delle reti neurali convoluzionali. Guardando la figura seguente:

Non ho problemi a comprendere il primo livello di convoluzione in cui abbiamo 4 kernel diversi (di dimensioni ), che contiamo con l'immagine di input per ottenere 4 mappe caratteristiche.$k \times k$

Quello che non capisco è il prossimo livello di convoluzione, in cui passiamo da 4 mappe caratteristiche a 6 mappe caratteristiche. Presumo che abbiamo 6 kernel in questo layer (di conseguenza dando 6 mappe delle caratteristiche di output), ma come funzionano questi kernel sulle 4 mappe delle caratteristiche mostrate in C1? I kernel sono tridimensionali o bidimensionali e replicati nelle 4 mappe delle caratteristiche di input?

I kernel sono tridimensionali, dove larghezza e altezza possono essere scelte, mentre la profondità è uguale al numero di mappe nel livello di input - in generale.

Non sono certamente bidimensionali e replicati attraverso le mappe delle caratteristiche di input nella stessa posizione 2D! Ciò significherebbe che un kernel non sarebbe in grado di distinguere tra le sue caratteristiche di input in una data posizione, dal momento che userebbe lo stesso peso tra le mappe delle caratteristiche di input!

Non esiste necessariamente una corrispondenza individuale tra layer e kernel. Dipende dall'architettura particolare. La figura che hai pubblicato suggerisce che nei livelli S2 hai 6 mappe caratteristiche, ognuna delle quali combina tutte le mappe caratteristiche dei livelli precedenti, ovvero diverse combinazioni possibili delle caratteristiche.

Senza più riferimenti non posso dire molto di più. Vedi ad esempio questo documento

La tabella 1 e la sezione 2a di "Apprendimento basato sui gradienti applicato al riconoscimento dei documenti" di Yann LeCun lo spiegano bene: http://yann.lecun.com/exdb/publis/pdf/lecun-01a.pdf Non tutte le regioni della convoluzione 5x5 sono usato per generare il secondo strato convoluzionale.

Questo articolo può essere utile: comprendere la convoluzione nell'apprendimento profondo di Tim Dettmers dal 26 marzo

In realtà non risponde alla domanda perché spiega solo il primo livello di convoluzione, ma contiene una buona spiegazione dell'intuizione di base sulla convoluzione nelle CNN. Descrive anche una definizione matematica più profonda della convoluzione. Penso che sia legato all'argomento della domanda.