Programmazione floating-accuracy

30

La matematica in virgola mobile è rotta?

Altre versioni di Stack Overflow in Stack Overflow : versioni successive : informazioni in lingua inglese Considera il seguente codice: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Perché si verificano queste inesattezze?

2983 math language-agnostic floating-point floating-accuracy

11

Quanto è pericoloso confrontare i valori in virgola mobile?

So che UIKitusa a CGFloatcausa del sistema di coordinate indipendente dalla risoluzione. Ma ogni volta che desidera controllare se per esempio frame.origin.xsi 0mi fa sentire male: if (theView.frame.origin.x == 0) { // do important operation } Non è CGFloatvulnerabile a falsi positivi quando si confrontano con ==, <=, >=, <, …

391 objective-c ios c floating-point floating-accuracy

6

Perché questi numeri non sono uguali?

Il seguente codice è ovviamente sbagliato. Qual è il problema? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

21

Cosa c'è di sbagliato nell'usare == per confrontare i float in Java?

Secondo questa pagina java.sun == è l'operatore di confronto di uguaglianza per i numeri in virgola mobile in Java. Tuttavia, quando scrivo questo codice: if(sectionID == currentSectionID) nel mio editor ed eseguo analisi statiche, ottengo: "JAVA0078 Valori in virgola mobile rispetto a ==" Cosa c'è di sbagliato nell'utilizzo ==per confrontare …

177 java equality floating-accuracy

4

Perché il valore in virgola mobile di 4 * 0.1 sembra carino in Python 3 ma 3 * 0.1 no?

So che la maggior parte dei decimali non ha un'esatta rappresentazione in virgola mobile (la matematica in virgola mobile è rotta? ). Ma non vedo perché 4*0.1sia stampato bene come 0.4, ma 3*0.1non lo è, quando entrambi i valori hanno effettivamente brutte rappresentazioni decimali: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 …

158 python floating-point rounding floating-accuracy ieee-754

12

È possibile ottenere 0 sottraendo due numeri in virgola mobile disuguali?

È possibile ottenere una divisione per 0 (o infinito) nel seguente esempio? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } In casi normali non lo sarà, ovviamente. Ma cosa succede se ae bsono …

131 floating-point double floating-accuracy ieee-754

27

Troncare (non arrotondare) i numeri decimali in javascript

Sto cercando di troncare i numeri decimali in posizioni decimali. Qualcosa come questo: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)fa quasi la cosa giusta ma arrotonda il valore. Non ho bisogno di arrotondare il valore. Spero che questo sia possibile in javascript.

93 javascript floating-point floating-accuracy

4

Qual è il doppio più vicino a 1.0, che non è 1.0?

C'è un modo per ottenere programmaticamente il double più vicino a 1.0, ma in realtà non lo è 1.0? Un modo hacky per farlo sarebbe memorizzare il double in un numero intero della stessa dimensione e poi sottrarne uno. Il modo in cui funzionano i formati a virgola mobile IEEE754, …

88 c++ floating-point floating-accuracy

Domande taggate «floating-accuracy»