Domande taggate «floating-point»

I numeri in virgola mobile sono approssimazioni di numeri reali che possono rappresentare intervalli maggiori di numeri interi ma utilizzano la stessa quantità di memoria, a costo di precisione inferiore. Se la tua domanda riguarda piccoli errori aritmetici (ad es. Perché 0,2 + 0,1 equivalgono a 0,300000001?) O errori di conversione decimali, leggi la pagina "info" collegata di seguito prima di pubblicare.






12
Qual'è la differenza tra float e double?
Ho letto della differenza tra precisione doppia e precisione singola. Tuttavia, nella maggior parte dei casi, floate doublesembrano essere intercambiabili, ovvero l'utilizzo dell'uno o dell'altro non sembra influire sui risultati. È davvero così? Quando sono intercambiabili float e doppi? Quali sono le differenze tra loro?




6
Come convertire float in int con Java
Ho usato la seguente riga per convertire float in int, ma non è accurato come vorrei: float a=8.61f; int b; b=(int)a; Il risultato è: 8(Dovrebbe essere 9) Quando a = -7.65f, il risultato è: -7(Dovrebbe essere -8) Qual è il modo migliore per farlo?
342 java  floating-point  int 



10
JavaScript visualizza un float con 2 cifre decimali
Volevo visualizzare un numero con 2 cifre decimali. Pensavo di poter usare toPrecision(2)in JavaScript. Tuttavia, se il numero è 0.05, ottengo 0.0500. Preferirei che rimanesse lo stesso. Guardalo su JSbin . Qual è il modo migliore per farlo? Posso pensare di codificare alcune soluzioni, ma immagino (spero) che sia integrato …

2
Cosa rappresenta la costante 0,0039215689?
Continuo a vedere questo costante pop-up in vari file di intestazione grafica 0.0039215689 Sembra che abbia qualcosa a che fare con il colore forse? Ecco il primo successo su Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; Gfx.FogColor.B = …

6
Doppio vs BigDecimal?
Devo calcolare alcune variabili in virgola mobile e il mio collega mi suggerisce di utilizzare BigDecimalinvece che doubledal momento che sarà più preciso. Ma voglio sapere di cosa si tratta e come trarne il massimo BigDecimal?

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.