Quando utilizzare log1p ed expm1?

Ho una semplice domanda che è davvero difficile per Google (oltre al canonico What Every Computer Scientist dovrebbe sapere sull'aritmetica in virgola mobile ).

Quando devono essere utilizzate funzioni come log1po expm1da utilizzare anziché loge exp? Quando non dovrebbero essere usati? In che modo le diverse implementazioni di tali funzioni differiscono in termini di utilizzo?

floating-point

— Tim
fonte

Benvenuto in Scicomp.SE! Questa è una domanda molto ragionevole, ma sarebbe più facile rispondere se hai spiegato un po 'a cui log1p ti riferisci (specialmente come è implementato, quindi non dobbiamo indovinare).

— Christian Clason,

Per argomenti a valore reale, log1p

ed expm1

dovrebbero essere usati quando

è piccolo, ad es. Quando

con precisione in virgola mobile. Vedi, ad esempio, docs.scipy.org/doc/numpy/reference/generated/numpy.expm1.html e docs.scipy.org/doc/numpy/reference/generated/numpy.log1p.html .

(x)

$(x)$

(x)

$(x)$

x

$x$

1 + x = 1

$1 + x = 1$

— GoHokies,

@ChristianClason grazie, mi riferisco principalmente a C ++ std o R, ma come chiedi inizio a pensare che anche l'apprendimento delle differenze nelle implementazioni sarebbe molto interessante.

— Tim

Ecco un esempio: scicomp.stackexchange.com/questions/8371/…

— Juan M. Bello-Rivas

@ user2186862 "quando

è piccolo" è corretto, ma non solo "quando

nella precisione in virgola mobile" (che accade per

nell'usuale aritmetica a doppia precisione). Le pagine di documentazione che hai collegato mostrano che sono utili già per

, ad esempio.

x

$x$

1 + x = 1

$1+x=1$

x \approx 10^{- 16}

$x\approx 10^{-16}$

x \approx 10^{- 10}

$x\approx 10^{-10}$

— Federico Poloni,

Risposte:

Sappiamo tutti che

\exp (x) = \sum_{n = 0}^{\infty} \frac{x^{n}}{n!} = 1 + x + \frac{1}{2} x^{2} + \dots

$\begin{equation} \exp(x) = \sum_{n=0}^\infty \frac{x^n}{n!} = 1 + x + \frac12 x^2 + \dots \end{equation}$ implica che per

| x | ≪ 1

$|x| \ll 1$ , abbiamo

\exp (x) \approx 1 + x

$\exp(x) \approx 1 + x$ . Ciò significa che se dobbiamo valutare in virgola mobile

\exp (x) - 1

$\exp(x) -1$ , per

| x | ≪ 1

$|x| \ll 1$ cancellazione catastrofica può verificarsi.

Questo può essere facilmente dimostrato in Python:

>>> from math import (exp, expm1)

>>> x = 1e-8
>>> exp(x) - 1
9.99999993922529e-09
>>> expm1(x)
1.0000000050000001e-08

>>> x = 1e-22
>>> exp(x) - 1
0.0
>>> expm1(x)
1e-22

I valori esatti sono

\begin{aligned} \exp (10^{- 8}) - 1 & = 0.000000010000000050000000166666667083333334166666668 \dots \\ \exp (10^{- 22}) - 1 & = 0.000000000000000000000100000000000000000000005000000 \dots \end{aligned}

$\begin{align} \exp(10^{-8}) -1 &= 0.000000010000000050000000166666667083333334166666668 \dots \\ \exp(10^{-22})-1 &= 0.000000000000000000000100000000000000000000005000000 \dots \end{align}$

In generale, un'implementazione "accurata" di expe expm1dovrebbe essere corretta per non più di 1ULP (cioè un'unità dell'ultimo posto). Tuttavia, poiché il raggiungimento di questa accuratezza comporta un codice "lento", a volte è disponibile un'implementazione rapida e meno accurata. Ad esempio in CUDA abbiamo expfe expm1f, dove fsta veloce. Secondo la guida alla programmazione CUDA C, app. D l' expfha un errore di 2ULP.

Se non ti preoccupi degli errori nell'ordine di pochi ULPS, di solito diverse implementazioni della funzione esponenziale sono equivalenti, ma fai attenzione che i bug potrebbero essere nascosti da qualche parte ... (Ricorda il bug Pentium FDIV ?)

expm1 $\exp(x)-1$ $x$ $x$ expm1

>>> exp(200)-1 == exp(200) == expm1(200)
True

$1$ $\exp(200)$

loglog1p $\log(1+x) \approx x$ $|x| \ll 1$

— Stefano M
fonte

Questa risposta era già contenuta nei commenti alla domanda del PO. Tuttavia mi sono sentito utile dare un resoconto più lungo (anche se di base) solo per chiarezza, nella speranza che possa essere utile ad alcuni lettori.

— Stefano M,

OK, ma poi si può semplicemente concludere "così posso sempre usare expm1 invece di exp" ...

— Tim

@tim la tua conclusione è sbagliata: puoi sempre usare al expm1(x)posto di exp(x)-1. Naturalmente exp(x) == exp(x) - 1non vale in generale.

— Stefano M,

x ≪ 1

$x \ll 1$

expm1(x)

0 \leq x \leq 1

$0\leq x \leq 1$ exp(x) - 1

x \approx 1

$x\approx 1$

x < ϵ

$x < \epsilon$

ϵ

$\epsilon$

Per espandere la differenza tra loge log1ppotrebbe essere utile richiamare il grafico se il logaritmo:

log $x$ $0$ $\ln(x)$ $- \infty$ $x$ $0$ $\ln(x)$ $\ln(\frac{1}{e}) = -1$ $\ln(\frac{1}{e^{10}}) = -10$

$x$ $0$ $\ln(x+1)$ $0$ $\ln(1+\frac{1}{e}) \sim 0.31$ $\ln(1+\frac{1}{e^{10}}) \sim 0.000045$ log1p

$1$ log $0$ $1$ log1p

— sfmiller940
fonte