Domande taggate «floating-point»

Un metodo per rappresentare i numeri con un numero fisso di cifre significative e l'esponente di un numero di base. Sono caratterizzati nella forma (Siogniofiocun'ntdiogiotS)*Bun'SeeXponent. Tipicamente, i numeri sono rappresentati rispetto a base = 2 (binario).

1
Ordine delle operazioni, algoritmi numerici
L'ho letto (1) Le operazioni mal condizionate devono essere eseguite prima di quelle ben condizionate. Ad esempio, si dovrebbe calcolare come ( x - y ) z poiché la sottrazione è mal condizionata mentre la moltiplicazione no.x z- yzxz−yzxz-yz( x - y) z(x−y)z(x-y)z Tuttavia, un'analisi degli errori del primo ordine …
4
Rilevanza dei calcoli a precisione fissa e arbitraria
Vedo pochissime librerie / pacchetti di calcolo in virgola mobile in giro. Date le varie imprecisioni della rappresentazione in virgola mobile, sorge la domanda sul perché non ci siano almeno alcuni campi in cui questa maggiore precisione potrebbe valere la complessità di lavorare con il punto fisso. Ci sono MAJOR …
3
Confronto relativo di numeri in virgola mobile
Ho una funzione numerica che f(x, y)restituisce un doppio numero in virgola mobile che implementa una formula e voglio verificare che sia corretta rispetto alle espressioni analitiche per tutte le combinazioni dei parametri xe yche mi interessa. Qual è il modo corretto di confrontare il calcolato e numeri analitici in …
2
Come impostare valori di doppia precisione in Fortran
Di recente, ho riscontrato un bizzarro problema con FORTRAN95. Ho inizializzato le variabili X e Y come segue: X=1.0 Y=0.1 Più tardi li aggiungo insieme e stampo il risultato: 1.10000000149012 Dopo aver esaminato le variabili, sembra che 0.1 non sia rappresentato in doppia precisione con la massima accuratezza. C'è un …
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.