Con quale frequenza le CPU commettono errori di calcolo?

Nelle Note sulla programmazione strutturata di Dijkstra parla molto della dimostrabilità dei programmi per computer come entità astratte. Come corollario, osserva come i test non siano sufficienti. Ad esempio, sottolinea il fatto che sarebbe impossibile testare una funzione di moltiplicazione f (x, y) = x * y per qualsiasi grande valore di xey nell'intero intervallo di xey. La mia domanda riguarda il suo miscuglio. commenti su "hardware scadente". So che il saggio è stato scritto nel 1970 quando l'hardware del computer era meno affidabile, ma i computer ancora non sono perfetti, quindi devono fare errori di calcolo volte . Qualcuno sa quanto spesso accade o se ci sono statistiche su questo?

A parte gli errori reali / reali nella progettazione di una CPU, penso che tu stia cercando questa domanda SO: Raggi cosmici. Qual è la probabilità che influenzeranno un programma . Non riesco a ottenere citazioni perché SO è di nuovo bloccato al lavoro qui ( sospiro ).

Ignorando quanto sopra, mi sembra di ricordare che c'erano alcuni bug di calcolo FPU nei primi Pentium, quindi certamente non sono infallibili.

Non ho prove concrete a portata di mano, ma il mio istinto mi dice che probabilmente dovresti essere più preoccupato per i bit di cache / RAM / disco che sono corrotti, quindi il calcolo non è corretto.

Un grosso problema nel rispondere a questa domanda in questi giorni è che i produttori di CPU avvolgono gli errata per il chip in un accordo di riservatezza (NDA). Intel fa questo, IIRC.

Molti produttori meno riservati pubblicano correzioni alla scheda tecnica, ma non ti dicono cosa è cambiato, quindi a meno che tu non voglia confrontare tutte e 300 le pagine, avrai difficoltà a dirlo.

Ci sono state molte cattive istruzioni nelle CPU, guardare un report del kernel Linux che trova all'avvio è moderatamente interessante.

Molto correlato è il documento Google sugli errori di memoria, sono più comuni di quanto si pensi. "Errori DRAM in natura: uno studio sul campo su larga scala" Schoeder, Pinheiro e Weber Originariamente pubblicato su ACM SIGMETRICS nel 2009. Ripubblicato in Communications of the ACM Feb 2011

Ciò che tutti questi errori di memoria significano per la tua domanda è che senza la memoria ECC, otterrai comunque calcoli sbagliati.

Ai tempi in cui lavoravo per un fornitore di hardware, era stato affermato che nessuna CPU mai costruita era priva di bug. E questo è solo bug logici. Di solito il produttore trova la maggior parte di essi e rispetta il chip o trova le impostazioni del BIOS che lo circondano. Ma oltre al fatto che cose come i raggi cosmici occasionalmente capovolgono un po 'nella memoria (e la memoria di solito ha bit di parità o circuiti SECDED per salvare il bacon), c'è sempre una possibilità finita che un po' venga letto in modo errato. Si noti che i bit non sono veri e propri zero logici, ma cose rumorose come tensioni e correnti e dato il rumore finito nel sistema c'è sempre la possibilità che venga letto un bit sbagliato. Ai vecchi tempi (come programmatore di app), ho trovato alcuni bug HW, entrambi di tipo logico errato, e dell'unità X nella CPU Y mi dà occasionalmente un tipo di risultato negativo, tempo di convincere i ragazzi HW a sostituire una varietà di chip. I circuiti effettivi si spostano nel tempo e nell'uso e, se il tuo si sta preparando a fallire, potresti iniziare a raccogliere errori di bit, specialmente se stai overcloccando o superando in altro modo l'intervallo operativo raccomandato.

È un vero problema per il supercalcolo, in cui sono previsti calcoli che coinvolgono 1e18 o più operazioni in virgola mobile.

Il seguente contenuto potrebbe riguardare errori di calcolo nelle GPU.

Dato il tempo sufficiente, Intel i7-3610QM e una Nvidia GeForce GTX 660 non saranno d'accordo tra loro dato le stesse istruzioni. (cuda 5.5, compute_20, sm_20)

Quindi, uno rimane per concludere che uno dei due commette un errore.

Durante un benchmark di studio di fattibilità sulla simulazione delle particelle, ho notato che dopo circa mille trasformazioni di precisione doppia (trasformazioni tra cui sin, cos, moltiplicazione, divisione, addizione e sottrazione) iniziarono a insinuarsi.

Ti darò un piccolo estratto di numeri da confrontare (il primo numero è sempre CPU, la seconda GPU)

-1.4906010142701069
-1.4906010142701074

-161011564.55005690
-161011564.55005693

-0.13829959396003652
-0.13829959396003658

-16925804.720949132
-16925804.720949136

-36.506235247679221
-36.506235247679228

-3.3870884719850887
-3.3870884719850896

(nota che non tutte le sequenze di trasformazione generano un errore)

Mentre l'errore massimo è quasi trascurabile (0.0000000000000401%), esiste ancora e contribuisce all'errore cumulativo.

Ora questo errore potrebbe essere dovuto a una differenza nell'implementazione di una delle librerie intrinseche. In effetti, sembra che la GPU preferisca arrotondare o troncare dove la CPU arrotonda. Curiosamente, questo sembra accadere solo su numeri negativi.

Ma il punto è che istruzioni identiche non sono necessariamente garantite per restituire risultati identici, anche su macchine digitali.

Spero che questo abbia contribuito.

EDIT come sidenote: nel caso di errori aritmetici della GPU, anche questo (ctrl + f "Prima GPU con supporto memoria ECC") potrebbe essere interessante, anche se non necessariamente rilevante per gli errori sopra.

In termini di ciò che si considera l'attuale "CPU" (unità di esecuzione, pipeline ... ecc.) Praticamente non succede mai. Qualche tempo fa c'era un problema noto con uno dei sapori Pentium, ma è l'unico di cui abbia mai sentito parlare. Ora, se si considerano i set di chip integrati nei processori o almeno nella stessa confezione come controller USB, TSEC, controller DMA o controller di memoria, allora ci sono molti errori. Dubito però che ci siano dati statistici di questo tipo.

Un altro problema "hardware scadente" da considerare in questo contesto è che l'hardware in virgola mobile è intrinsecamente "in perdita": ha una precisione limitata e con numeri sufficientemente grandi (fare riferimento alla citazione originale Dijkstra) non sarà possibile distinguere tra xe x + 1o addirittura x + 1000000. È possibile ottenere librerie a virgola mobile di precisione "infinita", ma sono lente e alla fine ancora limitate dalla memoria disponibile.

In breve, Dijkstra stava lavorando nel regno della teoria e il vero hardware / software non corrisponde molto bene agli ideali teorici. (Ricorda, la "macchina di Turing" originale ha specificato un nastro di carta infinito.)