Domande taggate «floating-point»

I numeri in virgola mobile sono approssimazioni di numeri reali che possono rappresentare intervalli maggiori di numeri interi ma utilizzano la stessa quantità di memoria, a costo di precisione inferiore. Se la tua domanda riguarda piccoli errori aritmetici (ad es. Perché 0,2 + 0,1 equivalgono a 0,300000001?) O errori di conversione decimali, leggi la pagina "info" collegata di seguito prima di pubblicare.

7
Trasmetti a int vs floor
C'è qualche differenza tra questi: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0); Da quanto ho capito entrambi i casi hanno lo stesso risultato. C'è qualche differenza nel codice compilato?
120 c++  c  floating-point 
29
Troncare i float in Python
Voglio rimuovere le cifre da un float per avere un numero fisso di cifre dopo il punto, come: 1.923328437452 -> 1.923 Devo eseguire l'output come stringa in un'altra funzione, non stampare. Inoltre voglio ignorare le cifre perse, non arrotondarle.
8
Indicatore di larghezza Printf per mantenere la precisione del valore a virgola mobile
Esiste uno printfspecificatore di larghezza che può essere applicato a uno specificatore in virgola mobile che formatta automaticamente l'output con il numero necessario di cifre significative in modo tale che durante la scansione della stringa venga acquisito il valore in virgola mobile originale? Ad esempio, supponiamo di stampare a floatcon …
10
"F" dopo il numero
Cosa findicano i numeri dopo? È da C o Objective-C? C'è qualche differenza nel non aggiungere questo a un numero costante? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, 50.0f); Puoi spiegare perché non scriverei semplicemente: CGRect frame = CGRectMake(0, 0, 320, 50);
4
Cos'è il float in Java?
Ho scritto questo codice: float b = 3.6; e ottengo questo: Errore: problema di compilazione non risolto: Tipo non corrispondente: impossibile convertire da double a float Perché? Qual è la definizione di float?
19
Converti String in Float in Swift
Sto cercando di convertire i numeri presi da un UITextField, che presumo, siano in realtà stringhe e convertirli in Float, in modo da poterli moltiplicare. Ho due messaggi UITextfieldche vengono dichiarati come segue: @IBOutlet var wage: UITextField @IBOutlet var hour: UITextField Quando l'utente preme un pulsante UIB voglio calcolare il …
11
Calcoli in virgola mobile vs interi su hardware moderno
Sto eseguendo un lavoro critico per le prestazioni in C ++ e attualmente stiamo utilizzando calcoli interi per problemi che sono intrinsecamente in virgola mobile perché "è più veloce". Ciò causa molti fastidiosi problemi e aggiunge molto codice fastidioso. Ora, ricordo di aver letto di come i calcoli in virgola …
14
Formatta i float con il modulo json standard
Sto usando il modulo json standard in python 2.6 per serializzare un elenco di float. Tuttavia, ottengo risultati come questo: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' Voglio che i float siano formattati con solo due cifre decimali. L'output dovrebbe essere simile a questo: >>> json.dumps([23.67, 23.97, …
7
Avviso C ++: divisione del doppio per zero
Caso 1: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0.0)<<std::endl; } Si compila senza avvisi e stampa inf. OK, C ++ può gestire la divisione per zero, ( guardalo dal vivo ). Ma, Caso 2: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0)<<std::endl; } Il compilatore …
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.