Errore di memoria quando si utilizzano più layer nel modello CNN

Sul mio Dell Core i7 - 16GB RAM - 4Gb 960m GPU laptop, sto lavorando a un progetto per classificare le immagini CT del polmone usando la CNN 3d. Sto usando la versione CPU di tensorflow. Le immagini sono preparate come dimensione numerica dell'array (25,50,50).

Il mio modello CNN aveva 2 strati conv, due strati maxpool, uno strato FC e uno di output. Con questa architettura ho potuto addestrare il modello con circa (da 5000 a 6000) campioni. Dopo aver aggiunto più layer, il mio modello ora ha 6 layer conv, 3 layer max pool, FC e layer output. Il mio problema è dopo aver modificato l'architettura con poco più di 1000 campioni, la mia memoria si riempie e ricevo un errore di memoria. Ho provato a creare lotti più piccoli, ma ogni volta ottenendo lo stesso errore. Ho due domande:

1. Perché aggiungendo più livelli il modello ha bisogno di più memoria?

2. C'è un modo per affrontare questo tipo di problema?

1. Più livelli significano più parametri per la tua rete, il che a sua volta significa più spazio richiesto in memoria per memorizzare quei parametri.

2. L'unica soluzione (oltre ad aumentare la memoria del computer) è ridurre le dimensioni della rete. Alcuni suggerimenti su questo: in primo luogo, i CNN 3D richiedono molto più spazio di quelli 2D. Un'idea potrebbe essere quella di passare a una 2D. Oltre a ciò, i layer con il maggior numero di parametri sono quelli FC. Questi sono talvolta ridondanti. Suggerirei di ridurre prima le dimensioni di quelli.

Aggiungendo al punto sollevato MzdR, potresti anche provare a usare i generatori. Dato che il tuo modello non avrà davvero bisogno di avere tutte le tue immagini in memoria durante l'allenamento, penso che un generatore dovrebbe servire bene.

Dai un'occhiata a questa domanda da StackOverflow. I generatori sono piuttosto fighi quando hai un affare di memoria. Ma se anche questo fallisce, prova a ridurre le dimensioni dei tuoi strati FC.