È meglio acquistare dischi RAID singolarmente o in blocco?

Può sembrare una domanda strana, ma ha generato una discussione animata con alcuni dei miei colleghi. Prendi in considerazione un array RAID di dimensioni moderate composto da qualcosa come otto o dodici dischi. Quando si acquista il batch iniziale di dischi o si acquistano sostituzioni per ingrandire l'array o aggiornare l'hardware, ci sono due approcci generali che si potrebbero adottare:

1. Acquista tutte le unità in un ordine da un fornitore e ricevi una grande scatola contenente tutti i dischi.
2. Ordinare un disco ciascuno da una varietà di fornitori e / o distribuire (per un periodo di giorni o settimane) diversi ordini di un disco ciascuno.

C'è una via di mezzo, ovviamente, ma queste sono le principali mentalità opposte. Sono stato sinceramente curioso di sapere quale approccio sia più sensato in termini di riduzione del rischio di guasto catastrofico dell'array. (Definiamo che come "il 25% dei dischi si guasta in una finestra temporale uguale al tempo impiegato per ripristinare nuovamente l'array una volta.") La logica è che, se tutti i dischi provenissero dallo stesso posto, potrebbero avere tutti lo stesso difetti sottostanti in attesa di colpire. La stessa bomba a orologeria con lo stesso conto alla rovescia iniziale sull'orologio, se vuoi.

Ho raccolto un paio di pro e contro più comuni per ogni approccio, ma alcuni di loro sembrano congetture e istinto istintivo invece di dati concreti basati sull'evidenza.

Acquista tutto in una volta, professionisti

• Meno tempo impiegato nella fase di ricerca / ordinazione.
• Riduce al minimo i costi di spedizione se il fornitore li addebita.
• I dischi hanno praticamente la stessa versione del firmware e le stesse "stranezze" nelle loro caratteristiche operative (temperatura, vibrazioni, ecc.)
• È improbabile che aumenti di prezzo / scarsità di scorte interrompano il progetto a metà strada.
• Ogni disco successivo è disponibile nel momento in cui è necessario installarlo.
• I numeri di serie sono tutti noti in anticipo, i dischi possono essere installati nel contenitore in ordine crescente di numero di serie. Sembra troppo pignolo, ma alcune persone sembrano apprezzarlo. (Immagino che la loro interfaccia di gestione ordina i dischi in base al numero seriale anziché all'ordine delle porte hardware ...?)

Acquista tutto in una volta, contro

• Tutti i dischi (probabilmente) provenivano dalla stessa fabbrica, realizzati contemporaneamente, degli stessi materiali. Sono stati immagazzinati nello stesso ambiente e soggetti agli stessi potenziali abusi durante il transito. Qualsiasi difetto o danno presente in uno è probabilmente presente in tutti.
• Se le unità vengono sostituite una alla volta in un array esistente e ogni nuovo disco deve essere ripristinato singolarmente, potrebbero essere potenzialmente settimane prima che l'ultimo disco dall'ordine venga installato e scoperto come difettoso. La finestra di reso / sostituzione con il fornitore potrebbe scadere durante questo periodo.
• Non è possibile trarre vantaggio dalle riduzioni dei prezzi nel prossimo futuro che potrebbero verificarsi durante il progetto.

Acquista singolarmente, professionisti

• Se un disco si guasta, condivide pochissima storia di produzione / transito con uno qualsiasi degli altri dischi. Se l'errore è stato causato da qualcosa durante la produzione o il transito, la causa principale probabilmente non si è verificata in nessun altro disco.
• Se un disco è morto all'arrivo o si guasta durante le prime ore di utilizzo, questo verrà rilevato poco dopo l'arrivo della spedizione e il processo di restituzione potrebbe andare più agevolmente.

Acquista singolarmente, contro

• Richiede una notevole quantità di tempo per trovare abbastanza venditori con prezzi piacevoli. Il monitoraggio dell'ordine, il mancato recapito, la restituzione degli articoli danneggiati e altri problemi possono richiedere molto tempo per essere risolti.
• Costi di spedizione potenzialmente più elevati.
• Esiste una possibilità molto reale che sarà necessario un nuovo disco, ma nessuno sarà disponibile, bloccando il progetto.
• Beneficio immaginato. Indipendentemente dal fornitore o dalla data di acquisto, tutti i dischi provengono dallo stesso posto e sono davvero gli stessi. I difetti di fabbricazione sarebbero stati rilevati dal controllo di qualità e i dischi scadenti non sarebbero stati venduti. Il danneggiamento della spedizione dovrebbe essere così grave (e chiaramente visibile ad occhio nudo) che le unità danneggiate sarebbero evidenti al momento del disimballaggio.

Se stiamo andando semplicemente al conteggio dei punti elenco, "acquista in blocco" vince abbastanza chiaramente. Ma alcuni dei pro sono deboli e alcuni dei contro sono forti. Molti dei punti elenco indicano semplicemente l'inverso logico di alcuni degli altri. Alcune di queste cose possono essere assurde superstizioni. Ma se la superstizione fa un lavoro migliore nel mantenere l'integrità dell'array, immagino che sarei disposto a seguirlo.

Quale gruppo è più sensato qui?

AGGIORNAMENTO: ho dei dati rilevanti per questa discussione. L'ultimo array che ho creato personalmente (circa quattro anni fa) aveva otto dischi. Ho ordinato da un unico fornitore, ma ho diviso l'acquisto in due ordini di quattro dischi ciascuno, a circa un mese di distanza. Un disco dell'array non è riuscito nelle prime ore di funzionamento. Era del primo lotto e la finestra di restituzione per quell'ordine si era chiusa nel tempo necessario per far girare tutto.

Quattro anni dopo, i sette dischi originali più uno sostitutivo funzionano ancora senza errori. (toccando ferro.)

In pratica, le persone che acquistano da fornitori aziendali (HPE, Dell, ecc.) Non si preoccupano di questo .

Le unità acquistate da questi fornitori sono già distribuite su più produttori con lo stesso numero di parte.

Un disco HP in un determinato SKU può essere HGST o Seagate o Western Digital.

Stesso numero di parte HP, variazione del produttore, numero di lotto e firmware

Tuttavia, non dovresti provare a superare in astuzia / outwit la probabilità di fallimento del batch. Puoi provare se ti dà la tranquillità, ma potrebbe non valere la pena.

Buone pratiche come il clustering, la replica e solidi backup sono la vera protezione per errori batch. Aggiungi ricambi caldi e freddi. Monitora attentamente i tuoi sistemi. Sfrutta i filesystem intelligenti come ZFS :)

E ricorda, i guasti del disco rigido non sono sempre meccanici ...

In riferimento alla risposta di ewwhite, alcuni amministratori di sistema ordinano in batch. Io stesso non avrei mai ordinato unità su base individuale, ma le operazioni standard all'ultimo posto in cui ho lavorato in tale capacità era quella di ordinare unità in lotti. Per una macchina a dodici unità, SOP ha imposto che le unità siano divise in tre lotti, dando alla macchina un profilo di ridondanza a tre livelli.

Tuttavia, altri piccoli outfit a cui ho consultato hanno seguito protocolli diversi, alcuni non interessati al batch e altri che dividono i batch in due o quattro array. La risposta breve è fare ciò che ritiene appropriato per il livello di servizio che devi raggiungere.

Nota a margine: l'ultimo posto in cui ho lavorato è stato sicuramente fare la cosa giusta. La macchina di archiviazione delle app ha deciso di fallire su un intero batch di unità e abbiamo scoperto che questo particolare batch aveva tutti lo stesso errore. Se non avessimo seguito un protocollo batch, avremmo subito una catastrofica perdita di dati.

Risposta onesta da parte di qualcuno che ha trascorso molto tempo a occuparsi della morte di array di raid e unità difficili: non puoi avere tutte le tue unità dello stesso batch se puoi evitarlo.

La mia esperienza si applica solo ai dischi rotanti, gli SSD hanno i loro problemi e vantaggi da considerare quando si ordinano in blocco.

Il modo migliore per gestire le cose dipende principalmente dalla grandezza dell'array con cui stai lavorando, se stai lavorando con qualcosa come 6 array di unità con 2 ridondanze di unità, puoi probabilmente acquistare in modo sicuro unità simili da 3 produttori e dividere l'array come quello.

Se stai utilizzando un'unità dispari o stai lavorando con array che non possono essere facilmente partizionati in questo modo, puoi provare altri approcci come l'acquisto della stessa unità da diversi fornitori o se acquisti in blocco puoi consultare e prova a separare le unità in base alla probabilità di essere prodotte insieme.

Se stai eseguendo un array abbastanza piccolo con la giusta tecnologia di base, potrebbe anche valere la pena di costruirlo in modo incrementale da forniture di dischi eterogenei. Inizia con il numero minimo di unità con cui puoi cavartela e acquista la fornitura successiva un mese o due dopo o quando riempi il sistema. Ciò ti consente anche di farti un'idea di eventuali problemi che potrebbero esserci con i modelli particolari che hai scelto.

Il motivo alla base di questo consiglio è una combinazione di due stranezze di unità.

1. MTBF è notevolmente rotto quando si hanno molte unità con origini simili. Nelle statistiche lo chiameremmo un bias di campionamento, a causa della somiglianza nei tuoi campioni gli effetti della media tenderanno ad essere meno utili. Se si verifica un errore con il batch o anche con il design stesso e accade più spesso di quanto si pensi, le unità di quel batch non funzioneranno prima di quanto MTBF suggerirebbe.

   Se le unità sono sparse, potresti ottenere [50%, 90%, 120%, 200%] di MTBF, ma se tutte le unità provengono da quel batch del 50% hai un pasticcio tra le mani.

2. Il riassemblaggio dell'array Raid uccide i dischi. No davvero. Se si verifica un guasto dell'unità e l'array viene ricostruito, caricherà ulteriormente le altre unità durante la scansione dei dati. Se si dispone di un'unità vicina al guasto, la ricostruzione potrebbe eliminarla o potrebbe già avere una posizione di errore di cui non si era a conoscenza perché quella sezione non era stata letta di recente.

   Se hai molte unità dallo stesso batch, le probabilità che si verifichi questo tipo di errore in cascata sono molto più alte delle possibilità se sono diverse. È possibile mitigare questa situazione eseguendo scansioni, scrub, resilvering regolari, qualunque sia la pratica consigliata per il tipo di array che si sta utilizzando, ma il rovescio della medaglia è che avrà un impatto sulle prestazioni e può richiedere ore per il completamento.

Per un certo contesto su quanto varia la longevità delle unità, Backblaze redige regolarmente un rapporto stat di guasto dell'unità ... Non sono affiliato alla società in alcun modo, ma dovrebbero sapere di cosa stanno parlando in merito all'affidabilità delle unità . Un esempio è https://www.backblaze.com/blog/hard-drive-failure-rates-q1-2017/ ... il tuo set di campioni sarà probabilmente più piccolo, quindi i dati esterni possono rovinare la tua esperienza, è ancora un buon riferimento.

Ho dovuto considerare questo problema per un cliente un paio di anni fa. Ho una combinazione di esperienza pratica e ricerca per sostenere la raccomandazione su più fonti.

Mettendo da parte i tuoi pro e contro per il momento, così come l'eccellente risposta di ewwhite , la prudenza suggerisce che se stai acquistando i drive tu stesso, li metti in multisource. Una rapida occhiata alla discussione di Wikipedia sulle debolezze del RAID indica due riferimenti interessanti.

Il primo riferimento è il RAID carta ACM : archiviazione secondaria affidabile e ad alte prestazioni (Chen, Lee, Gibson, Katz e Patterson. ACM Computing Surveys. 26: 145-185). Nella sezione 3.4.4 gli autori sottolineano che i guasti hardware non sono sempre eventi statisticamente indipendenti e ne spiegano i motivi. Al momento in cui scrivo questa risposta, il documento è disponibile online; le pagine 19-22 parlano dell'affidabilità ( http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.41.3889 ).

Il secondo riferimento sono i guasti del disco nel mondo reale: cosa significa per te un MTTF di 1.000.000 di ore? (Schroeder, Gibson. 5ª Conferenza USENIX sulle tecnologie di archiviazione e file.) Gli autori presentano dati statistici per sostenere l'affermazione secondo cui i guasti delle unità possono essere raggruppati nel tempo a una velocità superiore a quella prevista per eventi indipendenti. Al momento in cui scrivo questa risposta, questo documento è disponibile anche online ( https://www.usenix.org/legacy/events/fast07/tech/schroeder/schroeder_html/index.html ).

Dell ha esplicitamente raccomandato contro RAID 5 nel 2012 a causa di guasti del disco correlati in ambienti con dischi di grandi dimensioni; Si prevede che RAID 6 diventerà inaffidabile per ragioni simili intorno al 2019 (un articolo di ZDNet intitolato "why-raid-6-stop-working-in-2019": http://www.zdnet.com/article/why-raid-6 -stops-working-in-2019 / ). Mentre un elemento chiave di entrambi questi è la dimensione del disco e i tempi di ricostruzione, dimensioni ridotte dell'unità e multisourcing sono state consigliate come mitigatore del problema RAID 5.

Quindi sì, multi-source le unità se è possibile; se stai acquistando da un fornitore aziendale come descritto nella risposta di ewwhite, ciò potrebbe accadere in modo trasparente per te. Tuttavia ... il mio cliente ha acquistato 16 unità da 2 TB da un fornitore aziendale. Sono appena arrivati ​​dallo stesso produttore e sembravano essere fabbricati allo stesso tempo. Due delle unità si sono guastate entro due settimane dalla configurazione degli array RAID01. Quindi controlla le unità quando le ottieni. (Li hai già controllati comunque, giusto?)

Un altro potenziale svantaggio nell'ordinare le unità singolarmente è l'imballaggio e la movimentazione.

I dischi rigidi non vengono quasi mai forniti nella confezione di vendita. Se li acquisti uno alla volta, saranno quasi sicuramente riconfezionati dal venditore. Ho trovato questo riconfezionamento da altamente variabile. A volte ottieni una bella scatola con molta imbottitura, ma altre volte quasi nessuna imbottitura.

Una scatola più piccola è anche più vulnerabile a essere lanciata dai vettori senza evidenti danni esteriori.

Se si sta tentando di mitigare lo scenario "batch non valido", il che significa che ogni unità in un determinato batch di acquisto può / non funzionerà quasi contemporaneamente, è anche importante considerare la dimensione dell'array e il livello RAID utilizzato.

Se si considera di effettuare più ordini, nessuno standard stabilito è applicabile su tutta la linea. Le persone che raccomandano 2-4 livelli di acquisto dovrebbero chiedersi, se un intero livello di unità si guasta, l'array sarà ancora online? Quindi per livelli RAID di ridondanza come 1/5/10/50 dovresti acquistare i drive 1 alla volta. Per RAID6 è possibile acquistarne 2 alla volta.

Consiglierei indipendentemente da come si acquistano le unità di cui si esegue regolarmente il backup e si acquistano ricambi caldi / freddi adeguati per le dimensioni dell'array e il tipo di RAID.

Compro sempre usato / sfuso. Gli ordini che seguo sono quasi sempre lo stesso modello di dispositivo e l'utilizzo almeno riduce la preoccupazione per un "batch errato". C'è così tanto hardware per la vendita al fuoco fluttuante sul Web che non riesco a giustificare l'acquisto di nuove unità (o qualsiasi altra cosa) a meno che non sia per l'hardware mission-critical (e tutto il nostro hardware di backup è ancora rinnovato!)

+ PRO: prezzi competitivi online e l'inondazione costante di hardware da ambienti aziendali in movimento significa che non ci vuole quasi nessuno sforzo per ottenere il 50-80% di sconto sulla vendita al dettaglio per i tiri dell'ambiente di lavoro.

+ PRO: il prezzo basso consente di risparmiare budget per l'acquisto eccessivo e il mantenimento di un solido stock di hardware di sostituzione.

+ PRO: Rapporti con i venditori Ho una manciata di venditori online che ottengo lievi sconti rispetto allo sconto già considerevole per hardware ricondizionato / usato. Di solito non lo otterrai con Monoprice a meno che tu non stia acquistando in grandi quantità o abbia uno SLA con loro. Inoltre, specialmente con i dischi rigidi, assicurati di provarli subito. Non ho mai avuto problemi con un venditore che non rimborsava o sostituiva l'hardware DOA (a meno che non fosse una truffa che non riuscivo a catturare).

-CON: Garanzia, problemi di legittimità La garanzia si basa sulla data di fabbricazione del dispositivo, dovrai anche tenere d'occhio i venditori online che cercano di venderti marchi, cloni, ecc.

-CON: test Necessità di tenere conto del sovraccarico dei test. Indipendentemente da ciò, dovresti testare anche hardware nuovo, quindi non sei sicuro che ciò sia applicabile.

-CON: durata della vita difficile da giudicare; leggermente più suscettibile a guasti del disco.

Nota: se si tratta di una build client e non richiedono esplicitamente il rinnovo / l'utilizzo, sempre da parte di shiny / new!

È possibile ottenere maggiore affidabilità utilizzando dischi rigidi provenienti da lotti diversi e idealmente produttori. Altrimenti potrebbero non riuscire troppo vicino nel tempo. L'eccellente risposta di @Eliodorus lo spiega abbastanza.

Naturalmente, non importa chi mescola le unità. Se il tuo provider lo conferma già per te, non è necessario preoccuparsene. Tuttavia non sembra ragionevole fare un po 'di analisi forense su provider forse anche diversi e concludere che qualcuno lo fa per te se non ti viene detto direttamente. I fornitori di solito non sono pigri per pubblicizzare le varie misure che adottano per aumentare l'affidabilità dei loro motori.

In realtà, dipende dall'array ridondante di dischi (Raid) a basso costo . Nel Raid due, tre, quattro, cinque e sei, aiuta a disporre di unità di diversi lotti, ma non è decisivo: uno perde intrinsecamente affidabilità e prestazioni nell'uso di questi livelli.

Ora, per la scelta generalmente sana, quella di usare Raid 1 (mirroring) o 1 + 0 (striping su mirror), è davvero utile avere unità diverse su lati diversi di ciascun mirror (ogni array Raid 1), in modo da non far fallire il mirror durante un ripristino. Inoltre, dovrebbero essere disponibili hot spare per ridurre al minimo la finestra di ripristino.

Per ulteriori informazioni, controlla il sito web ironico ma informativo di Battle Against Any Raid 'F'2 (Baarf), realizzato dalla prestigiosa rete di tavoli Oak di DBA senior. Anche Wikipedia riassume bene il problema.

Per quanto ne so il controllo di qualità dell'archiviazione su disco in fabbrica è piuttosto elevato, e personalmente non avrei paura di un guasto hardware alla rinfusa per motivi di produzione.

E se fossi un po 'paranoico, comprerei semplicemente lo stoccaggio di due diversi produttori che non condivido le fabbriche, tramite lo stesso fornitore.

Lo spazio di archiviazione è così economico, che non ha senso in quanto azienda NON acquistare in blocco, e all'interno dell'azienda lo annulli anche dopo un paio d'anni, quindi l'investimento non è eccezionale. Il tempo necessario per l'acquisto da singoli fornitori probabilmente costa di più a causa del tempo speso.

Se hai ancora paura del guasto del disco alla rinfusa, acquista più del necessario. se sai che hai bisogno di 12 dischi, allora acquista da 5 a 7 di ricambio. Sarebbe solo $ 48 volte da 5 a 7, per terabyte, e possiamo ancora andare più a buon mercato senza rendere instabile o pericoloso il nostro sistema perché se lo sconto su dischi di massa o di seconda mano (perché è sicuro). Di quanto parliamo di resilver / reinizializzazione dell'array, ora ovviamente non ho modo di sapere quanto sia grande la tua soluzione di archiviazione ora, ma se trascorri settimane su questa attività di quanto probabilmente prenderei in considerazione la riconfigurazione dell'archiviazione dell'organizzazione poiché sembra (per me) più come una configurazione mancante che altro in un modo o nell'altro.

Se non diventiamo DAVVERO paranoici, otteniamo il doppio di qualsiasi soluzione di archiviazione tu stia utilizzando, in base alla sensibilità della tua organizzazione rispetto a un guasto allo storage che potrebbe essere più economico, questa non è solo un'opzione per la fortuna 500 aziende.

E possiamo anche parlare di dati di caricamento non necessari qui e ora, come ad esempio (esempio casuale) anni di dati finanziari storici a fornitori "cloud" che crittografiamo per primi. Ciò rimuoverà le esigenze di archiviazione dal nostro archivio che ci libererà finanziariamente o funzionalmente.

In base a chi sei, dove sei e cosa fai loro sarebbero diverse soluzioni per lavorare al meglio per te.