Ha senso addestrare una CNN come autoencoder?

Lavoro con l'analisi dei dati EEG, che alla fine dovranno essere classificati. Tuttavia, ottenere etichette per le registrazioni è alquanto costoso, il che mi ha portato a considerare approcci senza supervisione, per utilizzare meglio le nostre quantità piuttosto grandi di dati senza etichetta.

Ciò porta naturalmente a considerare gli autocodificatori in pila, che può essere una buona idea. Tuttavia, avrebbe anche senso utilizzare reti neurali convoluzionali, poiché una sorta di filtro è generalmente un approccio molto utile all'ELETTROENCEFALOGRAMMA, ed è probabile che le epoche considerate debbano essere analizzate localmente, e non nel loro insieme.

C'è un buon modo per combinare i due approcci? Sembra che quando le persone usano la CNN generalmente usano un addestramento controllato, o cosa? I due principali vantaggi dell'esplorazione delle reti neurali per il mio problema sembrano essere l'aspetto non supervisionato e la messa a punto (sarebbe interessante creare una rete sui dati della popolazione e quindi perfezionare la messa a punto di un individuo, per esempio).

Quindi, qualcuno sa se potrei semplicemente predicare una CNN come se fosse un autoencoder "paralizzato", o sarebbe inutile?

Dovrei prendere in considerazione qualche altra architettura, come una rete di credenze profonde, per esempio?

Sì, ha senso usare le CNN con autoencoder o altri metodi non controllati. In effetti, sono stati provati diversi modi di combinare le CNN con un addestramento non supervisionato per i dati EEG, incluso l'uso di autoencoders (convoluzionali e / o sovrapposti).

Esempi:

Deep Feature Learning for EEG Recordings utilizza autoencoders convoluzionali con vincoli personalizzati per migliorare la generalizzazione tra soggetti e prove.

La previsione basata sull'ELETTROENCEFALOGRAMMA delle prestazioni cognitive del conducente mediante una rete neurale convoluzionale profonda utilizza reti di convinzioni profonde convoluzionali su singoli elettrodi e le combina con strati completamente collegati.

Un nuovo approccio di apprendimento profondo per la classificazione dei segnali di immagini motorie EEG utilizza auto-codificatori impilati completamente collegati sull'uscita di una CNN addestrata sotto supervisione (abbastanza superficiale).

Ma anche le CNN puramente supervisionate hanno avuto successo sui dati EEG, vedi ad esempio:

EEGNet: una rete convoluzionale compatta per interfacce cervello-computer basate su EEG

Apprendimento profondo con reti neurali convoluzionali per la mappatura del cervello e la decodifica delle informazioni relative al movimento dall'EEG umano (divulgazione: sono il primo autore di questo lavoro, lavoro più correlato vedi p. 44)

Si noti che il documento EEGNet mostra che anche con un numero inferiore di prove, l'addestramento puramente supervisionato della loro CNN può superare le loro linee di base (vedi Figura 3). Anche nella nostra esperienza su un set di dati con solo 288 prove di addestramento, le CNN puramente supervisionate funzionano bene, superando leggermente una linea di base dei modelli spaziali comuni della banca filtro tradizionale.

Sì, è possibile utilizzare una rete convoluzionale in una configurazione del codificatore automatico. Non c'è niente di strano in questo. Le persone hanno problemi a capire i livelli di deconvoluzione , però.

Qui puoi trovare un esempio di autoencoder convoluzionale usando il framework Keras: https://blog.keras.io/building-autoencoders-in-keras.html