Domande taggate «dc»


3
Perdere precisione con dc
Voglio usare dcper gestire alcuni numeri di base 16 con punti esadecimali ma sto incontrando problemi di precisione. Ad esempio, sotto sto moltiplicando F423F.FDper 100, entrambi esadecimali. La risposta attesa è F423FFDinvece dare F423FFA.E1, vicino ma non abbastanza accurata anche dopo l'arrotondamento. $ dc 16 d i o F423F.FD 100 …
12 dc 
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.