Programmazione floating-point

4

Conversione di un float in una stringa senza arrotondarlo

Sto realizzando un programma che, per motivi non necessari da spiegare, richiede che un float venga convertito in una stringa da contare con len (). Tuttavia, str (float (x)) fa sì che x venga arrotondato quando convertito in una stringa, il che getta via l'intera cosa. Qualcuno sa di una …

88 python string floating-point rounding

3

Perché la "f" è richiesta quando si dichiarano i float?

Esempio: float timeRemaining = 0.58f; Perché è frichiesto alla fine di questo numero?

88 c# floating-point

9

Come posso convertire una stringa in un numero in Perl?

Ho una stringa che contiene un valore decimale e ho bisogno di convertire quella stringa in una variabile a virgola mobile. Quindi un esempio della stringa che ho è "5.45" e voglio un equivalente in virgola mobile in modo da poter aggiungere .1 ad esso. Ho cercato in Internet, ma …

86 string perl floating-point

3

Il doppio cast a unsigned int su Win32 viene troncato a 2.147.483.648

Compilazione del codice seguente: double getDouble() { double value = 2147483649.0; return value; } int main() { printf("INT_MAX: %u\n", INT_MAX); printf("UINT_MAX: %u\n", UINT_MAX); printf("Double value: %f\n", getDouble()); printf("Direct cast value: %u\n", (unsigned int) getDouble()); double d = getDouble(); printf("Indirect cast value: %u\n", (unsigned int) d); return 0; } Uscite (MSVC …

86 c visual-c++ casting x86 floating-point

8

JavaScript: arrotondare a un numero di cifre decimali, ma rimuovere gli zeri aggiuntivi

Ecco lo scenario: sto ottenendo .9999999999999999quando dovrei ottenere 1.0. Posso permettermi di perdere una cifra decimale di precisione, quindi sto usando .toFixed(15), quale tipo di lavoro. L'arrotondamento funziona, ma il problema è che mi viene dato 1.000000000000000. C'è un modo per arrotondare a un numero di cifre decimali, ma rimuovere …

85 javascript math floating-point rounding

12

Genera un float casuale compreso tra 0 e 1

Sto cercando di generare un numero casuale compreso tra 0 e 1. Continuo a leggere arc4random(), ma non ci sono informazioni su come ottenere un float da esso. Come faccio a fare questo?

84 ios c random floating-point arc4random

2

Qual è il modo corretto / standard per verificare se la differenza è inferiore alla precisione della macchina?

Finisco spesso in situazioni in cui è necessario verificare se la differenza ottenuta è superiore alla precisione della macchina. Sembra che per questo scopo R ha una variabile a portata di mano: .Machine$double.eps. Tuttavia, quando passo al codice sorgente R per le linee guida sull'uso di questo valore, vedo più …

36 r floating-point rounding precision

7

Quando utilizzare float vs decimale

Sto creando questa API e il database memorizzerà i valori che rappresentano uno dei seguenti: percentuale media Vota Onestamente non ho idea di come rappresentare qualcosa che l'intervallo è compreso tra 0 e 100% in numeri. Dovrebbe essere 0,00 - 1,00 0,00 - 100,00 qualsiasi altra alternativa che non conosco …

14 mysql sql types floating-point decimal

1

Strano comportamento di (^) in Haskell

Perché GHCi fornisce una risposta errata di seguito? GHCi λ> ((-20.24373193905347)^12)^2 - ((-20.24373193905347)^24) 4.503599627370496e15 python3 >>> ((-20.24373193905347)**12)**2 - ((-20.24373193905347)**24) 0.0 AGGIORNAMENTO Vorrei implementare la funzione di Haskell (^) come segue. powerXY :: Double -> Int -> Double powerXY x 0 = 1 powerXY x y | y < 0 = …

12 haskell floating-point ghc ghci

5

Somma efficiente e stabile dei numeri ordinati

Ho un elenco abbastanza lungo di numeri positivi in virgola mobile ( std::vector<float>, dimensione ~ 1000). I numeri sono ordinati in ordine decrescente. Se li riassumo seguendo l'ordine: for (auto v : vec) { sum += v; } Immagino di poter avere qualche problema di stabilità numerica, poiché vicino alla …

12 c++ floating-point precision

2

Sintassi valida della chiamata dello pseudo-distruttore per una costante mobile

Considera il seguente programma dimostrativo. #include <iostream> int main() { typedef float T; 0.f.T::~T(); } Questo programma è compilato da Microsoft Visual Studio Community 2019. Ma clanged gccemettere un errore come questo prog.cc:7:5: error: unable to find numeric literal operator 'operator""f.T' 7 | 0.f.T::~T(); | ^~~~~ Se scrivere l'espressione come …

9 c++ syntax floating-point c++17 pseudo-destructor

Domande taggate «floating-point»