IPoIB (IP over InfiniBand) vs. prestazioni RDMA


8

Ho parzialmente ereditato un cluster HA Linux al centro del quale attualmente serve una connessione con DRBD 8 su IPoIB (IP su InfiniBand) tra due host Debian. Non è rotto, quindi non lo aggiusterò.

Ho anche notato che DRBD 9 supporta RDMA, quindi potrebbe sorgere la domanda se in futuro sostituire la connessione con DRBD 9 su RDMA (ovvero InfiniBand "nativo").

Dal momento che non voglio eseguire test delle prestazioni su un sistema di produzione, mi chiedo: ci sono confronti di prestazioni pubblicati per IPoIB vs RDMA / InfiniBand. Ad esempio, potrei aspettarmi che i guadagni di larghezza di banda / latenza si allontanino da IPoIB negli ordini di magniute del 10%, 50% o 100%, diciamo? Cosa ci si potrebbe aspettare?

Risposte:


6

hai visto queste presentazioni? https://www.linbit.com/en/drbd-9-over-rdma-with-micron-ssds/ http://downloads.openfabrics.org/Media/Monterey_2015/Tuesday/tuesday_09_ma.pdf

InfiniBand è solo un'architettura di rete specifica che offre RDMA, ma le prestazioni dipenderanno dal tipo di applicazioni in esecuzione. La mia esperienza si basa su sistemi accademici / di ricerca che utilizzano principalmente applicazioni basate su MPI. In alcuni casi ho visto RDMA avere prestazioni migliori del 20% rispetto a IPoIB. Ma non sono a conoscenza di tali benchmarking ma ci sono molti documenti accademici scritti e anche libri bianchi dei fornitori. Se stai solo pensando all'I / O, considera: dimensioni dei file, numero di letture e scritture. L'RDMA di solito fornisce un grande vantaggio per le letture casuali di piccole dimensioni, ma solo un piccolo vantaggio per le scritture. Potresti voler leggere su RoCE (RDMA over Converged Ethernet) e InfiniBand nativo RDMA.


Grazie, esp. per la quantità del 20%. L'applicazione in esecuzione è PostgreSQL. (Il suo pgdata risiede sul dispositivo DRBD.)
rookie09

2
Sì a tutto ciò. Non puoi andare più veloce dei dischi nel tuo sistema, ma supponendo che sei sicuro che i dischi siano più veloci della rete su cui si stanno replicando, probabilmente sarai in grado di sottrarre un po 'più di prestazioni al sistema passaggio a RDMA.
Matt Kereczman,

4
Ecco un'altra spiegazione (alternativa) di RDMA che potrebbe interessarti starwindsoftware.com/…
Net Runner
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.