L'output FPGA può eseguire un PC multi-core?

Non capisco come FPGA possa essere utilizzato per accelerare un algoritmo. Attualmente sto eseguendo un algoritmo in tempo reale che richiede tempo su un laptop quadcore in modo che quattro calcoli possano essere eseguiti in parallelo.

Sono stato recentemente avvisato che FPGA potrebbe offrire prestazioni ancora migliori. Non capisco come funzioni. Qualcuno può spiegare come FPGA accelera un algoritmo e se dovrei passare a una soluzione FPGA Xilinx o Altera o continuare a eseguire i calcoli sul mio laptop quadcore.

Dettagli aggiuntivi: l'algoritmo gestisce 20 reti neurali artificiali utilizzando input immessi attraverso la trasformazione del pacchetto wavelet

Grazie a tutti per le ottime risposte.

Un mio collega ha analizzato questo punto e ha concluso che gli FPGA avrebbero sovraperformato un PC una volta che avessi avuto più di circa 100 attività indipendenti e integer che si sarebbero adattate all'FPGA. Per attività in virgola mobile GPGPU battere FPGA in tutto. Per il multithreading ristretto o il funzionamento SIMD, le CPU sono estremamente ottimizzate e funzionano a una velocità di clock superiore a quella normalmente raggiunta dagli FPGA.

Le altre avvertenze: i compiti devono essere indipendenti. Se ci sono dipendenze dei dati tra le attività, ciò limita il percorso critico del calcolo. Gli FPGA sono utili per la valutazione booleana e la matematica di interi, nonché interfacce hardware a bassa latenza, ma non per carichi di lavoro dipendenti dalla memoria o in virgola mobile.

Se devi mantenere il carico di lavoro in DRAM, questo sarà il collo di bottiglia anziché il processore.

Un FPGA funziona in modo completamente diverso da un processore.

Per un processore scrivi software che dice all'hardware cosa fare. Su un FPGA descrivi "come dovrebbe apparire l'hardware" internamente. È come se stessi realizzando un chip appositamente realizzato per il tuo algoritmo.

Questo accelera molte cose e può ridurre il consumo di energia. Ma ha i suoi svantaggi: lo sviluppo richiede molto più tempo ed è molto più complicato. Devi pensare in un modo completamente diverso e non puoi usare algoritmi che funzionano nel software in modo diretto.

Per le reti neurali artificiali l'FPGA è un'ottima scelta. Ci sono molte ricerche in corso in questo settore.

Dipende molto dall'algoritmo, ma il principio può essere spiegato abbastanza semplicemente.

Supponiamo che il tuo algoritmo debba sommare molti numeri a 8 bit. La tua CPU dovrà comunque recuperare ogni istruzione, ottenere gli operandi dalla RAM o dalla memoria cache, eseguire la somma, archiviare il risultato nella cache e continuare con l'operazione successiva. La pipeline aiuta, ma è possibile eseguire solo tante operazioni simultanee quanti sono i core.

Se si utilizza un FPGA, è possibile implementare un gran numero di semplici additivi che funzionano in parallelo, sgretolando forse migliaia di somme in parallelo. Sebbene una singola operazione possa richiedere più tempo, esiste un enorme grado di parallelismo.

Puoi anche usare una GPGPU per svolgere attività simili, poiché sono anche costituite da molti core più semplici.

Esistono circa 3 livelli di specializzazione delle apparecchiature informatiche:

La CPU (come nel tuo laptop) è la più generica di tutte. Può fare tutto, ma questa versatilità ha un prezzo di bassa velocità e elevato consumo energetico. La CPU è programmata in movimento, le istruzioni provengono dalla RAM. I programmi per CPU sono veloci, economici e facili da scrivere e molto facili da cambiare.

FPGA (che significa Field Programmable Gate Array) è il livello intermedio. Come suggerisce il nome, può essere programmato "sul campo", cioè all'esterno di una fabbrica. FPGA di solito viene programmato una volta, questo processo può essere descritto come impostazione della sua struttura interna. Dopo questo processo si comporta come un piccolo computer specializzato per l'unica attività che hai scelto per esso. Ecco perché può andare meglio della CPU generica. La programmazione di FPGA è molto difficile e costosa e il debug è molto difficile.

ASIC (che significa Circuito integrato specifico per l'applicazione) è lo specialista finale. È un chip progettato e prodotto per una sola attività: un'attività che esegue in modo estremamente rapido ed efficiente. Non è possibile riprogrammare ASIC, lascia la fabbrica completamente definita ed è inutile quando il lavoro non è più necessario. Progettare ASIC è qualcosa che solo le grandi aziende possono permettersi e il loro debug è praticamente impossibile.

Se pensi ai "core", guardalo in questo modo: le CPU hanno 4, 6, forse 8 core più grandi che possono fare tutto. ASICS ha spesso migliaia di core, ma molto piccoli, capaci di una sola cosa.

Puoi guardare la community di mining bitcoin. Fanno gli hash SHA256.

• Core CPU i7: 0,8-1,5 M hash / s
• FPGA: 5-300 M hash / s
• ASIC: hash / s 12000 M per un chip minuscolo, hash / s 2000000 M (sì, quel 2T) per un dispositivo a 160 chip

Certo, quei bambini ASIC costano quasi $ 2000 quando prodotti in serie, ma ti danno un'idea di come un tuttofare può competere con uno specialista.

L'unica domanda è: FPGA può offrirti più risparmi di quanti ne costi la progettazione? Ovviamente, invece di eseguirlo su UN laptop, puoi provare a eseguirlo su 20 PC.

Sì, FPGA può superare la CPU moderna (come Intel i7) in alcune attività specifiche, ma ci sono metodi più facili ed economici per migliorare le prestazioni della rete neurale.

Più economico: intendo uno sforzo totale, non un costo IC FPGA, ma anche una memoria molto veloce per FPGA (ne avresti bisogno per la rete neurale) e l'intero processo di sviluppo.

1. Usa SSE : ho visto implementazioni di reti neurali piuttosto semplici con prestazioni 2-3 volte migliori. Questa potrebbe essere una buona idea se non hai una GPU dedicata nel tuo laptop.

   Migliorare la velocità delle reti neurali su CPU di Vincent Vanhoucke e Andrew Senior

2. Usa GPGPU (elaborazione per scopi generici su unità di elaborazione grafica) - Penso che puoi archiviare un aumento delle prestazioni 100-200x su GPU per laptop di classe media come GeForce 730M.

   Ecco l'implementazione della rete neurale (e il codice libero). Utilizza Nvidia CUDA.

   L'approccio GPGPU è molto scalabile, se a un certo punto ti rendi conto che hai bisogno di più potenza di calcolo, puoi semplicemente utilizzare un computer desktop con GPU più potente o persino Nvidia Tesla K80 con 4992 core (che è costoso).