Programmazione floating-point

30

La matematica in virgola mobile è rotta?

Altre versioni di Stack Overflow in Stack Overflow : versioni successive : informazioni in lingua inglese Considera il seguente codice: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Perché si verificano queste inesattezze?

2983 math language-agnostic floating-point floating-accuracy

27

Come posso analizzare una stringa in un float o int?

In Python, come posso analizzare una stringa numerica come "545.2222"al suo valore float corrispondente, 545.2222? O analizzare la stringa "31"in un numero intero 31,? Voglio solo sapere come analizzare un float str in a floate (separatamente) un int str in un int.

2252 python parsing floating-point type-conversion integer

12

Perché GCC non ottimizza a * a * a * a * a * a a (a * a * a) * (a * a * a)?

Sto facendo qualche ottimizzazione numerica su un'applicazione scientifica. Una cosa che ho notato è che GCC ottimizzerà la chiamata pow(a,2)compilandola a*a, ma la chiamata pow(a,6)non è ottimizzata e chiamerà effettivamente la funzione di libreria pow, che rallenta notevolmente le prestazioni. (Al contrario, il compilatore Intel C ++ , eseguibile icc, …

2120 gcc assembly floating-point compiler-optimization fast-math

18

Differenza tra decimale, float e double in .NET?

Qual è la differenza tra decimal, floate doublein .NET? Quando qualcuno userebbe uno di questi?

2086 .net floating-point double decimal

25

Limitare i galleggianti a due punti decimali

Voglio aessere arrotondato a 13.95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 La roundfunzione non funziona nel modo previsto.

1691 python floating-point rounding precision

30

Come posso verificare se una stringa è un numero (float)?

Qual è il modo migliore per verificare se una stringa può essere rappresentata come numero in Python? La funzione che ho attualmente in questo momento è: def is_number(s): try: float(s) return True except ValueError: return False Il che, non solo è brutto e lento, sembra goffo. Tuttavia non ho trovato …

1609 python casting floating-point type-conversion

5

Perché la modifica da 0,1f a 0 rallenta le prestazioni di 10x?

Perché questo bit di codice, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int …

1528 c++ performance visual-studio-2010 compilation floating-point

15

Perché non usare Double o Float per rappresentare la valuta?

Mi è sempre stato detto di non rappresentare denaro doubleo floattipi, e questa volta ti pongo la domanda: perché? Sono sicuro che ci sia un'ottima ragione, semplicemente non so cosa sia.

939 floating-point currency

7

Esiste un tipo di input float in HTML5?

Secondo html5.org , l'attributo del valore "number" del tipo di input ", se specificato e non vuoto, deve avere un valore che sia un numero a virgola mobile valido". Eppure è semplicemente (nell'ultima versione di Chrome, comunque) un controllo "updown" con numeri interi, non float: <input type="number" id="totalAmt"></input> Esegui snippet …

819 html input floating-point

30

Formatta il numero per mostrare sempre 2 cifre decimali

Vorrei formattare i miei numeri per visualizzare sempre 2 cifre decimali, arrotondando dove applicabile. Esempi: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Ho usato questo: parseFloat(num).toFixed(2); Ma viene visualizzato 1come 1, piuttosto che 1.00.

783 javascript floating-point number-formatting

30

Come utilizzare un valore di intervallo intervallo decimale ()?

C'è un modo per passare da 0 a 1 di 0,1? Pensavo di poterlo fare come segue, ma non è riuscito: for i in range(0, 1, 0.1): print i Invece, dice che l'argomento passo non può essere zero, cosa che non mi aspettavo.

744 python floating-point range

11

Come posso forzare la divisione in virgola mobile? La divisione continua ad arrotondare per difetto a 0?

Ho due valori interi ae b, ma ho bisogno del loro rapporto in virgola mobile. Lo so a < be voglio calcolare a / b, quindi se uso la divisione intera otterrò sempre 0 con il resto di a. Come posso forzare cad essere un numero in virgola mobile in …

721 python floating-point integer division python-2.x

14

Converti decimale in doppio

Voglio usare a Track-Barper cambiare Forml'opacità di a. Questo è il mio codice: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Quando compilo l'applicazione, viene visualizzato il seguente errore: Impossibile convertire in modo implicito il tipo decimalindouble Ho provato a usare transe doublema poi Controlnon funziona. Questo codice ha …

672 c# floating-point type-conversion double decimal

30

Come gestire la precisione dei numeri in virgola mobile in JavaScript?

Ho il seguente script di test fittizio: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Esegui snippet di codiceNascondi risultatiEspandi frammento Questo stamperà il risultato 0.020000000000000004mentre dovrebbe solo stampare0.02 (se si utilizza la calcolatrice). Per quanto ho capito, ciò è dovuto a errori nella precisione della …

620 javascript floating-point

5

Perché Math.round (0.49999999999999994) restituisce 1?

Nel seguente programma puoi vedere che ogni valore è leggermente inferiore a quello .5arrotondato per difetto, ad eccezione di 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + …

567 java floating-point double rounding

Domande taggate «floating-point»