Domande taggate «floating-point»

I numeri in virgola mobile sono approssimazioni di numeri reali che possono rappresentare intervalli maggiori di numeri interi ma utilizzano la stessa quantità di memoria, a costo di precisione inferiore. Se la tua domanda riguarda piccoli errori aritmetici (ad es. Perché 0,2 + 0,1 equivalgono a 0,300000001?) O errori di conversione decimali, leggi la pagina "info" collegata di seguito prima di pubblicare.

5
Formatta / elimina la notazione scientifica dai risultati dell'aggregazione di python panda
Come si può modificare il formato dell'output da un'operazione groupby in panda che produce notazione scientifica per numeri molto grandi? So come eseguire la formattazione delle stringhe in Python ma non riesco ad applicarlo qui. df1.groupby('dept')['data1'].sum() dept value1 1.192433e+08 value2 1.293066e+08 value3 1.077142e+08 Questo sopprime la notazione scientifica se converto …
4
Perché il valore in virgola mobile di 4 * 0.1 sembra carino in Python 3 ma 3 * 0.1 no?
So che la maggior parte dei decimali non ha un'esatta rappresentazione in virgola mobile (la matematica in virgola mobile è rotta? ). Ma non vedo perché 4*0.1sia stampato bene come 0.4, ma 3*0.1non lo è, quando entrambi i valori hanno effettivamente brutte rappresentazioni decimali: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 …
6
Perché Double.MIN_VALUE non è negativo
Qualcuno può far luce su perché in Double.MIN_VALUErealtà non è il valore minimo che può assumere Double? È un valore positivo e un doppio può ovviamente essere negativo. Capisco perché è un numero utile, ma sembra un nome molto poco intuitivo, soprattutto se confrontato con Integer.MIN_VALUE. Chiamarlo Double.SMALLEST_POSITIVEo MIN_INCREMENTo simile …
16
Confronta i float in php
Voglio confrontare due float in PHP, come in questo codice di esempio: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; } In questo codice restituisce il risultato della elsecondizione …
9
Perché Double.NaN == Double.NaN restituisce false?
Stavo solo studiando le domande OCPJP e ho trovato questo strano codice: public static void main(String a[]) { System.out.println(Double.NaN==Double.NaN); System.out.println(Double.NaN!=Double.NaN); } Quando ho eseguito il codice, ho ottenuto: false true Come è l'output falsequando stiamo confrontando due cose che sembrano uguali tra loro? Cosa NaNsignifica?
155 java  floating-point  nan  scjp  ocpjp 
7
precisione 'float' vs. 'double'
Il codice float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); ti darà l'output x=3.141593 z=3.141593 x=3.141592741012573242 z=3.141592653589793116 dove sulla terza riga di output 741012573242è immondizia e sulla quarta riga 116è immondizia. I doppi hanno sempre 16 cifre significative mentre i float hanno …
155 c  floating-point 
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.