Domande taggate «floating-point»

I numeri in virgola mobile sono approssimazioni di numeri reali che possono rappresentare intervalli maggiori di numeri interi ma utilizzano la stessa quantità di memoria, a costo di precisione inferiore. Se la tua domanda riguarda piccoli errori aritmetici (ad es. Perché 0,2 + 0,1 equivalgono a 0,300000001?) O errori di conversione decimali, leggi la pagina "info" collegata di seguito prima di pubblicare.

Perché NaN - NaN == 0.0 con il compilatore Intel C ++?

È noto che i NaN si propagano in aritmetica, ma non sono riuscito a trovare alcuna dimostrazione, quindi ho scritto un piccolo test: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = …

300 c++ c floating-point ieee-754 icc

Fare un float mostra solo due cifre decimali

Ho il valore 25.00in a float, ma quando lo stampo sullo schermo lo è 25.0000000. Come posso visualizzare il valore con solo due cifre decimali?

296 objective-c formatting floating-point

Perché la modifica dell'ordine di somma restituisce un risultato diverso?

Perché la modifica dell'ordine di somma restituisce un risultato diverso? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Sia Java che JavaScript restituiscono gli stessi risultati. Capisco che, a causa del modo in cui i numeri in virgola mobile sono rappresentati in binario, alcuni …

294 java javascript floating-point

Perché i numeri decimali non possono essere rappresentati esattamente in binario?

Sono state inviate a SO diverse domande sulla rappresentazione in virgola mobile. Ad esempio, il numero decimale 0.1 non ha una rappresentazione binaria esatta, quindi è pericoloso utilizzare l'operatore == per confrontarlo con un altro numero in virgola mobile. Comprendo i principi alla base della rappresentazione in virgola mobile. Quello …

285 math floating-point

Perché alcuni confronti float <interi sono quattro volte più lenti di altri?

Quando si confrontano float con numeri interi, alcune coppie di valori richiedono molto più tempo per essere valutate rispetto ad altri valori di grandezza simile. Per esempio: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 Ma se il float o l'intero viene ridotto o ingrandito …

284 python performance floating-point cpython python-internals

Float vs Decimal in ActiveRecord

A volte, i tipi di dati Activerecord mi confondono. Err, spesso. Una delle mie domande eterne è, per un dato caso, Dovrei usare :decimalo :float? Mi sono imbattuto spesso in questo link, ActiveRecord:: decimal vs: float? , ma le risposte non sono abbastanza chiare per essere sicuro: Ho visto molti …

283 ruby-on-rails types floating-point decimal rails-activerecord

Perché questi numeri non sono uguali?

Il seguente codice è ovviamente sbagliato. Qual è il problema? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

Generazione di numeri float casuali

Come posso generare float casuali in C ++? Pensavo di poter prendere il rand intero e dividerlo per qualcosa, sarebbe sufficiente?

271 c++ random floating-point

Qual è la logica di tutti i confronti che restituiscono false per i valori NaN IEEE754?

Perché i confronti dei valori NaN si comportano diversamente da tutti gli altri valori? Cioè, tutti i confronti con gli operatori ==, <=,> =, <,> in cui uno o entrambi i valori sono NaN restituiscono false, contrariamente al comportamento di tutti gli altri valori. Suppongo che questo semplifichi in qualche …

267 floating-point comparison nan ieee-754 iec10967

Quando dovrei usare il doppio anziché il decimale?

Posso citare tre vantaggi nell'uso double(o float) invece di decimal: Usa meno memoria. Più veloce perché le operazioni matematiche in virgola mobile sono supportate nativamente dai processori. Può rappresentare un intervallo più ampio di numeri. Ma questi vantaggi sembrano applicarsi solo alle operazioni di calcolo intensivo, come quelle che si …

265 c# types floating-point double decimal

Quando dovrei usare la parola chiave "strictfp" in Java?

Ho cercato cosa fa, ma qualcuno ha effettivamente un esempio di quando useresti la strictfpparola chiave in Java? Qualcuno ha effettivamente trovato un uso per questo? Ci sarebbero effetti collaterali nel metterlo su tutte le mie operazioni in virgola mobile?

258 java floating-point strictfp

Quale tipo di dati MySQL dovrebbe essere usato per Latitudine / Longitudine con 8 cifre decimali?

Sto lavorando con i dati della mappa e l' Latitude/Longitudeestensione si estende a 8 cifre decimali. Per esempio: Latitude 40.71727401 Longitude -74.00898606 Ho visto nel documento di Google che utilizza: lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL tuttavia, i loro decimali vanno solo …

257 mysql types floating-point

Perché la divisione in Ruby restituisce un numero intero anziché un valore decimale?

Per esempio: 9 / 5 #=> 1 ma mi aspettavo 1.8. Come posso ottenere il risultato decimale corretto (non intero)? Perché sta tornando 1?

256 ruby math floating-point division integer-division

Come convertire una stringa in float in JavaScript?

Sto cercando di analizzare due valori da un datagrid. I campi sono numerici e quando hanno una virgola (es. 554,20), non riesco a ottenere i numeri dopo la virgola. Ho provato parseInte parseFloat. Come posso fare questo?

255 javascript parsing floating-point

Come si usa la divisione in virgola mobile in bash?

Sto cercando di dividere due larghezze di immagine in uno script Bash, ma bash mi dà 0come risultato: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) Ho studiato la guida di Bash e so che dovrei usare bc, in tutti gli esempi in Internet che usano bc. In echoHo provato a mettere la stessa cosa nella mia …

250 bash floating-point arithmetic-expressions

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.

Licensed under cc by-sa 3.0 with attribution required.