Domande taggate «floating-point»

I numeri in virgola mobile sono approssimazioni di numeri reali che possono rappresentare intervalli maggiori di numeri interi ma utilizzano la stessa quantità di memoria, a costo di precisione inferiore. Se la tua domanda riguarda piccoli errori aritmetici (ad es. Perché 0,2 + 0,1 equivalgono a 0,300000001?) O errori di conversione decimali, leggi la pagina "info" collegata di seguito prima di pubblicare.

Mantieni la precisione con il doppio in Java

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Il codice sopra riportato stampa: 11.399999999999 Come potrei ottenere questo per stampare (o essere in grado di usarlo come) 11.4?

149 java floating-point double precision

Come sopprimere la notazione scientifica durante la stampa di valori float?

Ecco il mio codice: x = 1.0 y = 100000.0 print x/y Il mio quoziente viene visualizzato come 1.00000e-05. C'è un modo per sopprimere la notazione scientifica e farla visualizzare come 0.00001? Userò il risultato come una stringa.

147 python floating-point

Cosa fa realmente la matematica veloce di gcc?

Capisco che la --ffast-mathbandiera di gcc può aumentare notevolmente la velocità per le operazioni mobili e va oltre gli standard IEEE, ma non riesco a trovare informazioni su ciò che sta realmente accadendo quando è acceso. Qualcuno può spiegare alcuni dettagli e forse dare un chiaro esempio di come cambierebbe …

144 performance math gcc floating-point fast-math

Converti il numero in virgola mobile in una certa precisione, quindi copia in stringa

Ho un numero in virgola mobile, diciamo 135.12345678910. Voglio concatenare quel valore a una stringa, ma voglio solo 135.123456789. Con la stampa, posso facilmente farlo facendo qualcosa del tipo: print "%.9f" % numvar con numvaressere il mio numero originale. C'è un modo semplice per farlo?

144 python string floating-point

Visualizza un float con due cifre decimali in Python

Ho una funzione che accetta argomenti float (generalmente numeri interi o decimali con una cifra significativa) e ho bisogno di produrre i valori in una stringa con due cifre decimali (5 -> 5.00, 5.5 -> 5.50, ecc.). Come posso farlo in Python?

136 python string programming-languages floating-point

È possibile ottenere 0 sottraendo due numeri in virgola mobile disuguali?

È possibile ottenere una divisione per 0 (o infinito) nel seguente esempio? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } In casi normali non lo sarà, ovviamente. Ma cosa succede se ae bsono …

131 floating-point double floating-accuracy ieee-754

Perché C non ha float senza segno?

Lo so, la domanda sembra essere strana. I programmatori a volte pensano troppo. Per favore continua a leggere ... In CI uso signede unsignednumeri interi molto. Mi piace il fatto che il compilatore mi avverta se faccio cose come l'assegnazione di un numero intero con segno a una variabile senza …

131 c types floating-point format unsigned

Espressione float C #: strano comportamento durante il cast del risultato float su int

Ho il seguente semplice codice: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1e speed2dovrebbe avere lo stesso valore, ma in realtà ho: speed1 = 61 speed2 = 62 So che dovrei probabilmente usare Math.Round invece del casting, ma vorrei capire perché …

128 c# casting floating-point int expression

Come gestire float e separatori decimali con il numero del tipo di input html5

Sto costruendo un'app Web che è principalmente per i browser mobili. Sto usando campi di input con tipo di numero, quindi (la maggior parte) i browser mobili invocano solo la tastiera numerica per una migliore esperienza utente. Questa app Web viene utilizzata principalmente nelle regioni in cui il separatore decimale …

128 javascript jquery mobile floating-point html-input

Arrotondare un numero in virgola mobile al numero intero più vicino?

Come suggerisce il titolo, voglio prendere un numero in virgola mobile e arrotondarlo per difetto al numero intero più vicino. Tuttavia, se non è un intero, voglio SEMPRE arrotondare per difetto la variabile, indipendentemente da quanto sia vicina al numero intero successivo. C'è un modo per fare questo?

128 python floating-point integer rounding

Perché Clang ottimizza via x * 1.0 ma NON x + 0.0?

Perché Clang ottimizza il ciclo in questo codice #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) { arr[i] …

125 c++ c optimization floating-point clang

Come ottenere i numeri dopo il punto decimale?

Come ottengo i numeri dopo un punto decimale? Ad esempio, se ce l'ho 5.55, come posso ottenerlo .55?

124 python floating-point decimal

round () non sembra arrotondare correttamente

La documentazione per la funzione round () afferma che gli si passa un numero e le posizioni oltre il decimale da arrotondare. Quindi dovrebbe fare questo: n = 5.59 round(n, 1) # 5.6 Ma, in realtà, la buona vecchia stranezza in virgola mobile si insinua e ottieni: 5.5999999999999996 Ai fini …

123 python floating-point rounding

Perché non posso utilizzare il valore float come parametro del modello?

Quando provo a utilizzare floatcome parametro del modello, il compilatore richiede questo codice, mentre intfunziona bene. È perché non posso utilizzare floatcome parametro del modello? #include<iostream> using namespace std; template <class T, T defaultValue> class GenericClass { private: T value; public: GenericClass() { value = defaultValue; } T returnVal() { …

120 c++ templates generics floating-point

Stringa PHP da fluttuare

Non ho affatto familiarità con PHP e ho avuto una domanda veloce. Ho 2 variabili pricePerUnite InvoicedUnits. Ecco il codice che li imposta sui valori: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); Se eseguo questo output, ottengo i valori corretti. Diciamo 5000unità fatturate e 1.00per prezzo. Ora devo mostrare …

120 php string casting floating-point

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.

Licensed under cc by-sa 3.0 with attribution required.