Domande taggate «floating-point»

7
Quando usi float e quando usi double
Spesso nella mia esperienza di programmazione devo decidere se usare float o double per i miei numeri reali. A volte vado per il float, a volte vado per il doppio, ma in realtà questo sembra più soggettivo. Se dovessi confrontarmi per difendere la mia decisione, probabilmente non darei ragioni valide. …
194 c++  c  floating-point  numbers 
5
Perché lo zero negativo è importante?
Sono confuso sul perché ci preoccupiamo di diverse rappresentazioni per zero positivo e negativo. Ricordo vagamente la lettura di affermazioni secondo cui avere una rappresentazione zero negativa è estremamente importante nella programmazione che coinvolge numeri complessi. Non ho mai avuto l'opportunità di scrivere codice con numeri complessi, quindi sono un …
7
Cosa causa errori di arrotondamento in virgola mobile?
Sono consapevole che l'aritmetica in virgola mobile presenta problemi di precisione. Di solito li supero passando a una rappresentazione decimale fissa del numero o semplicemente trascurando l'errore. Tuttavia, non so quali sono le cause di questa inesattezza. Perché ci sono così tanti problemi di arrotondamento con i numeri float?
8
Il confronto dell'uguaglianza dei numeri float inganna gli sviluppatori junior anche se nel mio caso non si verificano errori di arrotondamento?
Ad esempio, voglio mostrare un elenco di pulsanti da 0,0,5, ... 5, che salta per ogni 0,5. Uso un ciclo for per farlo e ho un colore diverso sul pulsante STANDARD_LINE: var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+''; if(i==STANDARD_LINE){ button.color='red'; } } In questo caso non dovrebbero esserci …
12
Perché hai bisogno di float / double?
Stavo guardando http://www.joelonsoftware.com/items/2011/06/27.html e ho riso della battuta di Jon Skeet circa 0,3 non 0,3. Personalmente non ho mai avuto problemi con float / decimali / doppi ma poi ricordo di aver imparato molto presto 6502 e non ho mai avuto bisogno di float nella maggior parte dei miei programmi. …
5
Quando la conversione da Integer a Single può perdere precisione
Stavo leggendo un articolo di Microsoft su Ampliamento delle conversioni e Opzione rigorosa su quando sono arrivato alla parte Le seguenti conversioni potrebbero perdere precisione: Numero intero a Singolo Lungo a singolo o doppio Da decimale a singolo o doppio Tuttavia, queste conversioni non perdono informazioni o grandezza. .. ma …
2
In che modo Lua gestisce i numeri interi e float?
Per quanto mi ricordo di aver programmato, mi hanno insegnato a non confrontare i numeri in virgola mobile per l'uguaglianza. Ora, leggendo Programmazione in Lua sul numbertipo di Lua , ho trovato quanto segue: Il tipo di numero rappresenta numeri reali (a virgola mobile a precisione doppia). Lua non ha …
1
Precisione implicita delle funzioni in virgola mobile
Durante la revisione dell'implementazione di un'altra funzione di un programmatore per calcolare il normale CDF di distribuzione , ho suggerito di sostituire l'intera implementazione con le funzioni integrate di Python o di utilizzare SciPy, una libreria scientifica comune. Un altro programmatore ha sottolineato che né math.erfc()né scipy.stats.norm.cdf()fornisce alcuna garanzia di …
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.