Domande taggate «floating-point»

I numeri in virgola mobile sono approssimazioni di numeri reali che possono rappresentare intervalli maggiori di numeri interi ma utilizzano la stessa quantità di memoria, a costo di precisione inferiore. Se la tua domanda riguarda piccoli errori aritmetici (ad es. Perché 0,2 + 0,1 equivalgono a 0,300000001?) O errori di conversione decimali, leggi la pagina "info" collegata di seguito prima di pubblicare.

10
Aggiungi valore in virgola mobile a risorse / valori Android
Sto cercando di aggiungere un po 'di spazio tra le righe alle mie TextViews utilizzando android:lineSpacingMultiplier dalla documentazione : Spaziatura aggiuntiva tra le righe di testo, come moltiplicatore. Deve essere un valore in virgola mobile, ad esempio "1.2". Dato che lo sto usando in alcune diverse visualizzazioni di testo, vorrei …
16
Python JSON serializza un oggetto Decimale
Ho Decimal('3.9')come parte di un oggetto e desidero codificarlo in una stringa JSON che dovrebbe apparire come {'x': 3.9}. Non mi interessa la precisione sul lato client, quindi un galleggiante va bene. C'è un buon modo per serializzare questo? JSONDecoder non accetta oggetti decimali e la conversione in float produce …
21
round () per float in C ++
Ho bisogno di una semplice funzione di arrotondamento in virgola mobile, quindi: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Riesco a trovare ceil()e floor()in matematica.h - ma non round(). È presente nella libreria C ++ standard con un altro nome o manca?
10
Convertire i galleggianti in in panda?
Ho lavorato con i dati importati da un CSV. Panda ha cambiato alcune colonne in virgola mobile, quindi ora i numeri in queste colonne vengono visualizzati come punti mobili! Tuttavia, ho bisogno che vengano visualizzati come numeri interi o, senza virgola. C'è un modo per convertirli in numeri interi o …
10
Formatta Float con n decimali
Ho bisogno di formattare un float in "n" posizioni decimali. stava provando a BigDecimal, ma il valore restituito non è corretto ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // …
7
Formattazione di un float con 2 cifre decimali
Attualmente sto costruendo un modulo di vendita per un sito Web di clienti. Finora ho calcolato il prezzo di vendita per calcolarlo perfettamente, ma dove sono rimasto bloccato sta formattando l'output con 2 cifre decimali. Attualmente sto chiamando questo in una variabile in modo da poter associare i risultati a …
6
Perché i numeri in virgola mobile sono imprecisi?
Perché alcuni numeri perdono precisione quando memorizzati come numeri in virgola mobile? Ad esempio, il numero decimale 9.2può essere espresso esattamente come un rapporto di due numeri decimali ( 92/10), entrambi i quali possono essere espressi esattamente in binario ( 0b1011100/0b1010). Tuttavia, lo stesso rapporto memorizzato come un numero in …
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.