Domande taggate «floating-point»

I numeri in virgola mobile sono approssimazioni di numeri reali che possono rappresentare intervalli maggiori di numeri interi ma utilizzano la stessa quantità di memoria, a costo di precisione inferiore. Se la tua domanda riguarda piccoli errori aritmetici (ad es. Perché 0,2 + 0,1 equivalgono a 0,300000001?) O errori di conversione decimali, leggi la pagina "info" collegata di seguito prima di pubblicare.

Qual è il modo più efficace per il float e il doppio confronto?

Quale sarebbe il modo più efficace per confrontare due doubleo due floatvalori? Fare semplicemente questo non è corretto: bool CompareDoubles1 (double A, double B) { return A == B; } Ma qualcosa del tipo: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) …

524 c++ algorithm optimization floating-point

Come formattare correttamente i numeri fluttuanti su String senza 0 decimali non necessari?

Un doppio a 64 bit può rappresentare esattamente il numero intero +/- 2 53 Dato questo fatto, ho scelto di usare un doppio tipo come singolo tipo per tutti i miei tipi, poiché il mio intero più grande è senza segno a 32 bit. Ma ora devo stampare questi pseudo …

496 java string floating-point format double

Come arrotoli un numero in Python?

Questo problema mi sta uccidendo. Come si fa a raccogliere un numero UP in Python? Ho provato a arrotondare (numero) ma ha arrotondato il numero verso il basso. Esempio: round(2.3) = 2.0 and not 3, what I would like Ho provato int (numero + .5) ma ha arrotondato di nuovo …

487 python floating-point integer rounding python-2.x

Identificatore di formato corretto per double in printf

Qual è l'identificatore di formato corretto per doublein printf? È %fo è %lf? Credo di si %f, ma non ne sono sicuro. Esempio di codice #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

482 c floating-point printf double format-specifiers

Come formattare un float in javascript?

In JavaScript, quando si converte da un float a una stringa, come posso ottenere solo 2 cifre dopo il punto decimale? Ad esempio, 0,34 anziché 0,3445434.

427 javascript floating-point

Qual'è la differenza tra float e double?

Ho letto della differenza tra precisione doppia e precisione singola. Tuttavia, nella maggior parte dei casi, floate doublesembrano essere intercambiabili, ovvero l'utilizzo dell'uno o dell'altro non sembra influire sui risultati. È davvero così? Quando sono intercambiabili float e doppi? Quali sono le differenze tra loro?

420 c++ c floating-point precision

Come ottenere un numero casuale tra un intervallo float?

randrange(start, stop)accetta solo argomenti interi. Quindi come posso ottenere un numero casuale tra due valori float?

414 python random floating-point

Come analizzare il float con due cifre decimali in JavaScript?

Ho il codice seguente. Vorrei farlo in modo tale che se price_result è uguale a un numero intero, diciamo 10, allora vorrei aggiungere due cifre decimali. Quindi 10 sarebbero 10.00. O se è uguale a 10.6 sarebbe 10.60. Non sono sicuro di come si faccia. price_result = parseFloat(test_var.split('$')[1].slice(0,-1));

412 javascript floating-point

Quanto è pericoloso confrontare i valori in virgola mobile?

So che UIKitusa a CGFloatcausa del sistema di coordinate indipendente dalla risoluzione. Ma ogni volta che desidera controllare se per esempio frame.origin.xsi 0mi fa sentire male: if (theView.frame.origin.x == 0) { // do important operation } Non è CGFloatvulnerabile a falsi positivi quando si confrontano con ==, <=, >=, <, …

391 objective-c ios c floating-point floating-accuracy

Come convertire float in int con Java

Ho usato la seguente riga per convertire float in int, ma non è accurato come vorrei: float a=8.61f; int b; b=(int)a; Il risultato è: 8(Dovrebbe essere 9) Quando a = -7.65f, il risultato è: -7(Dovrebbe essere -8) Qual è il modo migliore per farlo?

342 java floating-point int

Qual è il modo migliore per confrontare i float per la quasi-uguaglianza in Python?

È noto che il confronto dei galleggianti per l'uguaglianza è un po 'complicato a causa di problemi di arrotondamento e precisione. Ad esempio: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Qual è il modo consigliato per gestirlo in Python? Sicuramente esiste una funzione di libreria standard per questo da qualche parte?

333 python floating-point

Come posso stampare un doppio valore con la massima precisione usando cout?

Quindi ho ottenuto la risposta alla mia ultima domanda (non so perché non ci abbia pensato). Stavo stampando un doubleuso coutarrotondato quando non me lo aspettavo. Come posso fare coutuna stampa doubleusando la massima precisione?

332 c++ floating-point precision iostream cout

JavaScript visualizza un float con 2 cifre decimali

Volevo visualizzare un numero con 2 cifre decimali. Pensavo di poter usare toPrecision(2)in JavaScript. Tuttavia, se il numero è 0.05, ottengo 0.0500. Preferirei che rimanesse lo stesso. Guardalo su JSbin . Qual è il modo migliore per farlo? Posso pensare di codificare alcune soluzioni, ma immagino (spero) che sia integrato …

316 javascript floating-point precision

Cosa rappresenta la costante 0,0039215689?

Continuo a vedere questo costante pop-up in vari file di intestazione grafica 0.0039215689 Sembra che abbia qualcosa a che fare con il colore forse? Ecco il primo successo su Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; Gfx.FogColor.B = …

310 c floating-point constants magic-numbers

Doppio vs BigDecimal?

Devo calcolare alcune variabili in virgola mobile e il mio collega mi suggerisce di utilizzare BigDecimalinvece che doubledal momento che sarà più preciso. Ma voglio sapere di cosa si tratta e come trarne il massimo BigDecimal?

303 java floating-point double bigdecimal

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.

Licensed under cc by-sa 3.0 with attribution required.