Statistiche e Big Data taylor-series

Approssimazione della funzione di perdita XGBoost con Taylor Expansion

Come esempio, assumere la funzione obiettivo del modello XGBoost sulla 'th iterazione:ttt L(t)=∑i=1nℓ(yi,y^(t−1)i+ft(xi))+Ω(ft)L(t)=∑i=1nℓ(yi,y^i(t−1)+ft(xi))+Ω(ft)\mathcal{L}^{(t)}=\sum_{i=1}^n\ell(y_i,\hat{y}_i^{(t-1)}+f_t(\mathbf{x}_i))+\Omega(f_t) dove è la funzione di perdita, è la t 'th uscita albero e \ Omega è la regolarizzazione. Uno dei (molti) passaggi chiave per il calcolo veloce è l'approssimazione:ℓℓ\ellftftf_ttttΩΩ\Omega L( t )≈ ∑i = 1nℓ ( yio, …

28 optimization loss-functions boosting xgboost taylor-series

Approssimativo

Stavo leggendo casualmente un articolo (in economia) che aveva la seguente approssimazione per log(E(X))log⁡(E(X))\log(E(X)) : log(E(X))≈E(log(X))+0.5var(log(X))log⁡(E(X))≈E(log⁡(X))+0.5var(log⁡(X))\log(E(X)) \approx E(\log(X))+0.5 \mathrm{var}(\log(X)) , che l'autore dice esatto se X è log-normale (che io conosco). Quello che non so è come ricavare questa approssimazione. Ho provato a calcolare un'approssimazione di Taylor del secondo ordine …

11 lognormal approximation taylor-series

Domande taggate «taylor-series»