Un confronto comparativo di sistemi costituiti da reti addestrate separatamente rispetto a singole reti più profonde non rivelerebbe probabilmente una scelta migliore universalmente applicabile. 1 Possiamo vedere in letteratura l'aumento del numero di sistemi più grandi in cui sono combinate più reti artificiali, insieme ad altri tipi di componenti. È prevedibile. La modularizzazione man mano che i sistemi crescono in complessità e le esigenze in termini di prestazioni e capacità crescono sono vecchie quanto l'industrializzazione.
Il nostro laboratorio lavora con controllo robotico, strumentazione termodinamica e analisi dei dati, le reti artificiali sono componenti in questi contesti di sistema più ampi. non abbiamo singoli MLP o RNN che da soli svolgono alcuna funzione utile.
Contrariamente alle congetture sulle gerarchie decenni fa, l'approccio topologico che sembra funzionare bene nella maggior parte dei casi segue le relazioni più comuni tra i moduli di sistema che si vedono nelle centrali elettriche, nelle fabbriche automatizzate, nell'aeronautica, nelle architetture informative aziendali e in altre creazioni ingegneristiche complesse. Le connessioni sono quelle del flusso e, se progettate correttamente, le funzioni di supervisione sono minime. Il flusso si verifica tra i moduli che coinvolgono i protocolli per le comunicazioni e ogni modulo svolge bene la sua funzione, incapsulando il livello inferiore di complessità e dettagli funzionali. Non è una rete che sovrintende a un'altra che sembra emergere nella maniera più efficace nella pratica, ma nell'equilibrio e nella simbiosi. L'identificazione di un chiaro disegno di maestro-schiavo nel cervello umano sembra essere altrettanto scivolosa.
La sfida non è trovare i percorsi informativi che compongono la topologia delle informazioni di sistema. Il flusso di informazioni è spesso evidente all'analisi dei problemi. La difficoltà sta nello scoprire le migliori strategie per formare queste reti indipendenti. Le dipendenze dell'allenamento sono comuni e spesso critiche, mentre negli animali l'addestramento avviene in situ o per niente. Stiamo scoprendo le condizioni in cui quel tipo di apprendimento nei nostri sistemi è pratico e come raggiungerlo. La maggior parte della nostra ricerca in questo senso è volta a scoprire modi per ottenere una maggiore affidabilità e un minor carico in termini di ore di ricerca per ottenerlo.
Una maggiore funzionalità non è sempre di beneficio. Spesso produce una minore affidabilità e consuma risorse di sviluppo aggiuntive con scarso rendimento. Trova un modo per coniugare automazione di livello superiore, parsimonia delle risorse e affidabilità in un unico processo di sviluppo e potresti vincere un premio e una menzione d'onore in tutto il web.
I sistemi paralleli che hanno lo stesso obiettivo sono una buona idea, ma non una nuova. In un sistema aeronautico, nove sistemi paralleli hanno lo stesso obiettivo, in gruppi di tre. Ogni gruppo utilizza un diverso approccio informatico. Se due dei sistemi che utilizzano lo stesso approccio forniscono lo stesso output e il terzo differisce, viene utilizzato l'output corrispondente e la differenza nel terzo viene segnalata come errore di sistema. Se due dei diversi approcci forniscono risultati simili e il terzo differisce sostanzialmente, viene utilizzata una fusione dei due risultati simili e il terzo viene riportato come caso d'uso per sviluppare ulteriormente l'approccio dissenziente.
La migliore tolleranza agli errori ha un costo, altri otto sistemi e risorse di elaborazione e connettività associate oltre ai comparatori alla coda, ma in sistemi che sono una questione di vita o di morte, i costi aggiuntivi sono pagati e l'affidabilità è massimizzata.
L'adattamento topologico dinamico è correlato a sistemi ridondanti e tolleranza agli errori, ma in qualche modo è abbastanza distinto. In quell'area di sviluppo, la tecnologia da seguire è il calcolo neuromorfo, che è in parte ispirato alla neuroplasticità.
Un'ultima distinzione da considerare è tra topologia dei processi, topologia dei dati e topologia dell'hardware. Queste tre cornici geometriche possono produrre una maggiore efficienza insieme se allineate in modi specifici che producono mappature più dirette tra le relazioni tra flusso, rappresentazione e meccanica. Sono, tuttavia, topologie distinte. Il significato dell'allineamento potrebbe non essere evidente senza approfondire questi concetti e i dettagli che emergono per specifici obiettivi di prodotto o servizio.
Le note
[1] Le reti profonde che vengono addestrate come una singola unità e funzionano senza connettività con altre reti artificiali non sono necessariamente monolitiche. La maggior parte delle reti profonde pratiche ha una sequenza eterogenea di strati in termini di funzioni di attivazione e spesso di tipi di cellule.