Come fa FaceBook a costruire server con 12+ hard disk


4

A partire dal Il blog di FB :

... viene implementato in cima ai blade di storage delle merci. La tipica configurazione hardware di uno storage blade 2U è:

  • 2 x CPU quad-core
  • 16 GB - 32 GB di memoria
  • controller raid hardware con 256 MB - 512 MB di cache NVRAM
  • 12 unità SATA da 1 TB

Qualcuno può dirmi esattamente quali parti usano.

So che puoi ottenere schede madri che possono richiedere 2 cpus, posso ottenere schede madri che possono contenere 16 GB di RAM, ma come posso collegare 12 unità?

Risposte:


6

dodici unità da 1 TB? noccioline, pensa GRANDE! :)

Texas Memory Systems lancia il RamSan-6200 Sistema SSD che offre fino a 100 terabyte di Flash   archiviazione in una configurazione rack 40U   che può sostenere un record di 5 milioni   input / output al secondo (IOPS) con   60 throughput di gigabyte al secondo   mentre uso poco più di 6 kilowatt   di potere.

alt text

tutto questo per un prezzo enorme di $ 4,4 milioni, mi senti, Babbo Natale? :)

(forse RAMinSANe sarebbe un nome migliore)

ma se stai bene con solo 12 unità, riceverai un bel Enclosure SATA 12 con controller (velocità & gt; 500 MB / s) per circa $ 1.000

alt text


1
Riguardo a FB, che era il contesto di questa domanda. Certamente non usano custodie come questa.
MDMarra

5

Odio scavare una domanda così vecchia, ma queste risposte hanno bisogno di aiuto. Esistono diversi casi 2U che dispongono di alloggiamenti hot swap da 12x3,5 "(3 verticalmente x 4 orizzontali - Vedi Supermicro's SC826), e anche alcuni che hanno anche un bay o due interni ( http://www.servaris.com/servers_m2100.php ). È denso, ma non impossibile. Se vuoi essere un po 'pazzo, l'SC847 di Supermicro supporta 45 alloggiamenti per unità hot swap in 4U (nessuna scheda madre) o 36 con scheda madre E-ATX e qualcuno crea una custodia (la RMC5D2) con 48 alloggiamenti hot swap verticali con spazio per E -Test board e penso che 7 carte a grandezza naturale in 5U.

Credo che questo sia per Sistema Haystack di Facebook per le foto, dove usano un controller RAID 6 per connettere le 12 unità in un server rack 2U. È possibile acquistare un profilo basso che supporti ancora 12 unità o utilizzare una scheda verticale. Come parte del loro Deposito IPO nel 2012 , hanno rivelato di archiviare "oltre 100 petabyte" di foto e video. Anche con le nuove unità da 4 e 6 TB, sono molte di queste macchine.

Facebook utilizza anche un sistema Hadoop 100+ PB per analizzare tutto ciò che accade sul sito (più TB / giorno). Salta gli array di dischi RAID e rende l'intero sistema ridondante suddividendo file di grandi dimensioni in blocchi da 64 MB e scrivendo ogni blocco su più macchine. Per questo è possibile ottenere una scheda madre con 8 porte e aggiungere a buon mercato 4 porte non RAID. Sono abbastanza sicuro che queste macchine non abbiano così tante unità, ma la tecnologia è basata su cose che Google sta facendo. Google dispone di rack con 12 macchine RAID drive gratuite e un sacco di design di computer interessanti. Sono quasi abbastanza grandi per le parti personalizzate da essere un ordine di volume di hardware commodity.

Puoi guardare un video sui diversi tipi di server di Facebook Qui .

Di recente, Facebook ha presentato il sistema di archiviazione Open Vault che supporta 30 unità in un Open Rack 2U (stessa larghezza complessiva dell'armadio, ma 21 "wide internamente rispetto allo standard 19"). Esistono 2 vassoi 1U singoli che escono dallo chassis, ciascuno con 15 unità (5 di larghezza x 3 di profondità) e 2 espansori SAS. Un video su YouTube mostra un sistema in cui ciascuno dei 30 alloggiamenti per unità da 3,5 "è stato popolato con SSD 2x2,5", che fornirà una potenza di I / O seria quando combinato con 12G SAS. Secondo i produttori di SSD, una singola unità potrebbe supportare 5 milioni di IOPS. Un cabinet completo supporterà oltre 90 milioni di IOPS e 170 GB / s di larghezza di banda (interfaccia limitata) e 1 PB di archiviazione SSD (fino a 3,2 PB di disco di filatura con elio). Se stai solo cercando di usarlo per un NAS davvero dolce, c'è un server Open Compute che usa Open Vault con le schede server ARM all'interno.

Ancora più interessante, Facebook sta sperimentando con Blu-ray per la conservazione a freddo (i dati non sono accessibili molto, se non mai). Il loro sistema prototipo ha 10.368 dischi che contengono 100 GB ciascuno e memorizza circa 1 PB di dati. Hanno un picker robotizzato che accede ai dischi da un rack che contiene 24 caricatori, con 36 cartucce per caricatore e 12 dischi per cartuccia. Una volta risolti i bug e ottimizzato le funzionalità, mi aspetto che il multilettore Blu-ray da 10.000 dischi farà parte dell'Open Compute Project.


1
Penso che la parola chiave nella domanda originale sia "blade"
Joel Coehoorn

Hanno detto che è un blade 2U, non quelli in cui hai qualcosa come 10 server in 7U e condividono un sacco di risorse. Quando si hanno centinaia di cabinet pieni di server 2U ridondanti identici che funzionano tutti insieme, iniziano a somigliare ai minuscoli sistemi blade.
jbo5112

2

Penso che il post originale di FB sia un po 'fuorviante. Se utilizzano gli storage blade, questi sono progettati per connettersi a array di archiviazione esterni. Lo stesso blade eseguirà Windows Storage Server, ad esempio, ma non archiviare i dati su quel blade. Dovresti collegare un array SAN 2U a quel blade e quella matrice potrebbe contenere 12 bay hotswap a 3.5 "o 24 bay a 2.5".




0

Connettere 12 dischi su una macchina non è difficile - si ottiene un controller raid con 12 porte SATA o si utilizzano espansioni SATA o un controller RAID raid.

La difficoltà è di inserire fisicamente 12 unità da 3,5 pollici in 2U; Non sono sicuro che tu possa trasformare un disco da 3,5 pollici in verticale con solo 2U, e non hai intenzione di montare 12 unità in 2U senza farlo o mettendo a posto alcuni dischi nella scatola (rendendoli non rimovibili a caldo).


0

Come altri hanno già accennato, ci sono molte opzioni diverse per adattare 12 unità da 1 TB in 2U. Mentre le unità da 3,5 pollici devono essere orizzontali per adattarsi a quello spazio, unità da 2,5 pollici come la Western Digital Scorpio Blue WD10TPVT si adatta in 2U verticalmente. Puoi ottenere un Supermicro S216 chassis basato su un massimo di 24 unità da 2,5 pollici in 2U, insieme a due controller RAID raid a 12 porte (come questo 3ware 9550SXU-12 ) per collegarli tutti.

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.