Ingegneria software numeric-precision

7

Cosa causa errori di arrotondamento in virgola mobile?

Sono consapevole che l'aritmetica in virgola mobile presenta problemi di precisione. Di solito li supero passando a una rappresentazione decimale fissa del numero o semplicemente trascurando l'errore. Tuttavia, non so quali sono le cause di questa inesattezza. Perché ci sono così tanti problemi di arrotondamento con i numeri float?

62 floating-point numeric-precision

2

Perché alcune lingue arrotondano all'intero EVEN più vicino?

Linguaggi di programmazione come Scheme (R5RS) e Python ( vedi questa domanda ) arrotondano verso il numero intero pari più vicino quando il valore è esattamente tra i numeri interi circostanti. Qual è il ragionamento alla base di questo? Esiste un'idea matematica che renda più facile ragionare sui seguenti calcoli? …

44 scheme numbers numeric-precision python-3.x

9

Perché i numeri in virgola mobile sono usati spesso in Scienze / Ingegneria?

Mentre indaga l'accuratezza dei numeri in virgola mobile, ho visto in alcuni punti un'affermazione simile a " float e double sono ( progettati per / usati spesso in ) calcoli ingegneristici e scientifici " Da quanto ho capito, la forza dei float e dei doppi è la quantità di memoria …

33 floating-point numeric-precision

6

Perché i computer non memorizzano i numeri decimali come secondo numero intero?

I computer hanno difficoltà a memorizzare numeri frazionari in cui il denominatore è qualcosa di diverso da una soluzione a 2 ^ x. Questo perché la prima cifra dopo il decimale vale 1/2, la seconda 1/4 (o 1 / (2 ^ 1) e 1 / (2 ^ 2)) ecc. Perché …

24 numbers numeric-precision

5

Soluzioni per errori di arrotondamento in virgola mobile

Nel creare un'applicazione che si occupa di molti calcoli matematici, ho riscontrato il problema che alcuni numeri causano errori di arrotondamento. Mentre capisco che il virgola mobile non è esatto , il problema è come posso gestire i numeri esatti per assicurarmi che quando i calcoli sono preformati su di …

18 floating-point numeric-precision

4

Come identificare calcoli in virgola mobile instabili?

In campo numerico, è molto importante essere in grado di identificare schemi instabili e migliorarne la stabilità. Come identificare calcoli in virgola mobile instabili? Sto lavorando a una simulazione molto complessa in cui molti schemi numerici lavorano insieme e sto cercando un metodo per identificare le sue parti deboli. Sto …

15 numbers numeric-precision

4

Gestire numeri estremamente grandi in una lingua che non può?

Sto cercando di pensare a come farei per fare calcoli su numeri estremamente grandi (all'infinito - interger senza float) se il costrutto del linguaggio non è in grado di gestire numeri più grandi di un certo valore. Sono sicuro di non essere il primo né l'ultimo a porre questa domanda, …

15 math variables numeric-precision

1

Precisione implicita delle funzioni in virgola mobile

Durante la revisione dell'implementazione di un'altra funzione di un programmatore per calcolare il normale CDF di distribuzione , ho suggerito di sostituire l'intera implementazione con le funzioni integrate di Python o di utilizzare SciPy, una libreria scientifica comune. Un altro programmatore ha sottolineato che né math.erfc()né scipy.stats.norm.cdf()fornisce alcuna garanzia di …

9 documentation math floating-point numeric-precision

Domande taggate «numeric-precision»