Ingegneria software arithmetic

5

Un computer tenterà di dividere per zero?

Sappiamo tutti che 0/0è Undefinede restituisce un errore se dovessi inserirlo in una calcolatrice e se dovessi creare un programma (almeno in C) il sistema operativo lo terminerebbe quando provo a dividere per zero. Ma quello che mi chiedevo è se il computer tenta persino di dividere per zero , …

59 math error-handling arithmetic

3

C'è qualcosa di speciale nel numero 65535?

2¹⁶-1 & 2⁵ = 2⁵ (o? Ovviamente?) Uno sviluppatore mi ha chiesto oggi cosa sono 65535 bit a bit e 32 ie 2¹⁶-1 & 2⁵ =? All'inizio ho pensato spontaneamente a 32, ma mi è sembrato facile dopo di che ho pensato per diversi minuti e poi ho risposto a …

11 numbers binary bitwise-operators 32-bit arithmetic

2

Nome del problema rotondo dei numeri di conto alla rovescia - e soluzioni algoritmiche?

Per i non britannici nel pubblico, c'è un segmento di uno spettacolo di gioco durante il giorno in cui i concorrenti hanno un set di 6 numeri e un numero target generato casualmente. Devono raggiungere il numero target usando uno (ma non necessariamente tutti) i 6 numeri usando solo operatori …

10 algorithms arithmetic

3

Quale logica viene usata quando i progettisti del linguaggio di programmazione decidono quale segno prende il risultato dell'operazione modulo?

Passando attraverso l' operazione Modulo (il viale che ho inserito esplorando la differenza tra rememod ) mi sono imbattuto in: In matematica il risultato dell'operazione modulo è il resto della divisione euclidea. Tuttavia, sono possibili altre convenzioni. Computer e calcolatrici hanno vari modi di memorizzare e rappresentare numeri; pertanto la …

9 programming-languages language-design math arithmetic design-decisions

Domande taggate «arithmetic»