Perché il tempo di accesso alla RAM (qualsiasi tipo) diminuisce così lentamente?

Questo articolo mostra che DDR4 SDRAM ha circa 8 volte maggiore larghezza di banda DDR1 SDRAM. Ma il tempo dall'impostazione dell'indirizzo della colonna a quando i dati sono disponibili è diminuito solo del 10% (13,5 ns). Una ricerca rapida mostra che il tempo di accesso del più veloce asincrono. SRAM (18 anni) ha 7ns. Perché il tempo di accesso a SDRAM è diminuito così lentamente? La ragione è economica, tecnologica o fondamentale?

È perché è più facile ed economico aumentare la larghezza di banda della DRAM piuttosto che diminuire la latenza. Per ottenere i dati da una fila aperta di ram, è necessaria una quantità non banale di lavoro.

L'indirizzo della colonna deve essere decodificato, i mux che selezionano le linee a cui accedere devono essere guidati e i dati devono spostarsi attraverso il chip verso i buffer di output. Ciò richiede un po 'di tempo, soprattutto se si considera che i chip SDRAM sono prodotti su un processo su misura per densità di ram elevate e velocità logiche non elevate. Per aumentare la larghezza di banda, dire usando DDR (1,2,3 o 4), la maggior parte della logica può essere ampliata o pipeline e può funzionare alla stessa velocità della generazione precedente. L'unica cosa che deve essere più veloce è il driver I / O per i pin DDR.

Al contrario, per ridurre la latenza è necessario velocizzare l'intera operazione, il che è molto più difficile. Molto probabilmente, parti del ram dovrebbero essere realizzate su un processo simile a quello per le CPU ad alta velocità, aumentando sostanzialmente il costo (il processo ad alta velocità è più costoso, inoltre ogni chip deve passare attraverso 2 processi diversi).

Se si confrontano le cache della CPU con RAM e disco rigido / SSD, esiste una relazione inversa tra l'archiviazione è grande e l'archiviazione è veloce. Un L1 $ è molto veloce, ma può contenere solo tra 32 e 256kB di dati. Il motivo per cui è così veloce è perché è piccolo:

• Può essere posizionato molto vicino alla CPU utilizzandolo, il che significa che i dati devono percorrere una distanza più breve per arrivarci
• I cavi su di esso possono essere accorciati, il che significa che richiede meno tempo perché i dati attraversino
• Non occupa molta area o molti transistor, quindi farlo su un processo ottimizzato per la velocità e usare molta potenza per bit memorizzato non è così costoso

Man mano che avanzi nella gerarchia, ogni opzione di archiviazione diventa più grande in termini di capacità, ma anche più grande nell'area e più lontana dal dispositivo che la utilizza, il che significa che il dispositivo deve rallentare.

C_Elegans fornisce una parte della risposta: è difficile ridurre la latenza complessiva di un ciclo di memoria.

L'altra parte della risposta è che nei moderni sistemi di memoria gerarchica (livelli multipli di memorizzazione nella cache), la larghezza di banda della memoria ha un'influenza molto più forte sulle prestazioni complessive del sistema rispetto alla latenza della memoria , ed è qui che sono stati concentrati tutti gli ultimi sforzi di sviluppo.

Questo è vero sia nel calcolo generale, in cui molti processi / thread sono in esecuzione in parallelo, sia nei sistemi integrati. Ad esempio, nel lavoro di video HD che faccio, non mi importa delle latenze nell'ordine dei millisecondi, ma ho bisogno di più gigabyte / secondo di larghezza di banda.

Non ho molte intuizioni, ma mi aspetto che sia un po 'tutto.

Economico

Per la maggior parte dei computer / telefoni, la velocità è più che sufficiente. Per memorie di dati più veloci, SSD è stato sviluppato. Le persone possono usare video / musica e altre attività ad alta velocità in (quasi) tempo reale. Quindi non c'è così tanto bisogno di maggiore velocità (tranne per applicazioni specifiche come previsioni meteorologiche ecc.).

Un altro motivo è elaborare una velocità RAM molto elevata, sono necessarie CPU veloci. E questo comporta un notevole consumo di energia. Poiché la tendenza ad usarli in dispositivi a batteria (come i telefoni cellulari), impedisce l'uso di RAM (e CPU) molto veloci, rende quindi anche non economicamente utile realizzarli.

Tecnico

Con la dimensione decrescente di chip / CI (livello nm ora), la velocità aumenta, ma non in modo significativo. È più spesso usato per aumentare la quantità di RAM, che è necessaria di più (anche una ragione economica).

Fondamentale

Ad esempio (entrambi sono circuiti): il modo più semplice per ottenere più velocità (utilizzato da SSD) è semplicemente distribuire il carico su più componenti, in questo modo si sommano anche le velocità di "elaborazione". Confronta usando 8 chiavette USB che leggono contemporaneamente e combinando i risultati, invece di leggere i dati da 1 chiavetta USB uno dopo l'altro (impiega 8 volte di più).