Regressione lineare con errori di Laplace

Considera un modello di regressione lineare: dove , ovvero , La distribuzione di Laplace con media e parametro di scala , sono tutti reciprocamente indipendenti. Considera una stima della massima probabilità di parametro sconosciuto : da cui ε i ∼ L ( 0 , b ) 0 b β - log p ( y ∣ X , β , b ) = n log ( 2 b ) +

$$y_i = \mathbf x_i \cdot \boldsymbol \beta + \varepsilon _i, \, i=1,\ldots ,n,$$ $\varepsilon _i \sim \mathcal L(0, b)$$0$$b$$\boldsymbol \beta$Β ML=argminβ∈ R m n Σ i=1| xi⋅β-yi $$-\log p(\mathbf y \mid \mathbf X, \boldsymbol \beta, b) = n\log (2b) + \frac 1b\sum _{i=1}^n |\mathbf x_i \cdot \boldsymbol \beta - y_i|$$ $$\hat{\boldsymbol \beta}_{\mathrm {ML}} = {\arg\min }_{\boldsymbol \beta \in \mathbb R^m} \sum _{i=1}^n |\mathbf x_i \cdot \boldsymbol \beta - y_i|$$

Come si può trovare una distribuzione di residui $\mathbf y - \mathbf X\hat{\boldsymbol \beta}_{\mathrm {ML}}$ in questo modello?

Si presume che i residui (attualmente chiamati errori) siano distribuiti in modo casuale con una distribuzione a doppia esponenziale (distribuzione di Laplace). Se si stanno adattando questi punti dati xey, farlo numericamente. Per prima cosa calcoli beta-hat_ML per questi punti nel loro insieme usando la formula che hai pubblicato sopra. Ciò determinerà una linea attraverso i punti. Quindi sottrarre il valore y di ciascun punto dal valore y della linea su quel valore x. Questo è il residuo per quel punto. I residui di tutti i punti possono essere utilizzati per costruire un istogramma che ti darà la distribuzione dei residui.

C'è un buon articolo matematico su di esso di Yang (2014) .

--Lee