Riduzione al minimo della somma della deviazione assoluta (

15

Ho un set di dati e voglio trovare il parametro modo tale da ridurre al minimo la somma questo è $x_{1}, x_{2}, \ldots, x_{k}$ $m$

\sum_{i = 1}^{k} | m - x_{i} | .

$\sum_{i=1}^{k}\big|m-x_i\big|.$

min_{m} \sum_{i = 1}^{k} | m - x_{i} | .

$\min_{m}\sum_{i=1}^{k}\big|m-x_i\big|.$

optimization convex-optimization

— mayenew
fonte

2

Potresti elaborare un po '?

— Geoff Oxberry,

In tal caso, la soluzione non sarebbe quindi il punto medio tra i valori massimo e minimo?

— Paul

@Paul la mediana può minimizzare la somma ma vuoi sapere come potrebbe essere fatto analiticamente, in particolare la minimizzazione l1

— rinnovare il

@kadu esatto, la mediana è la soluzione. Il calcolo analitico della mediana è banale; basta ordinare e quindi prendere il valore medio.

— David Ketcheson,

22

Probabilmente chiedi una prova che la mediana risolva il problema? Bene, questo può essere fatto in questo modo:

L'obiettivo è lineare a tratti e quindi differenziabile ad eccezione dei punti . Qual è la pendenza dell'obiettivo è un punto ? Bene, la pendenza è la somma delle pendenze delle mappaturee questo è (per ) o (per ). Quindi, la pendenza indica quanti sono più piccoli di . Vedete che la pendenza è zero se ci sono ugualmente molti più piccoli e più grandi di (per e numero pari di ). Se c'è un numero dispari di $m=x_i$ $m\neq x_i$ $m\mapsto |m-x_j|$ $+1$ $m>x_j$ $-1$ $m<x_j$ $x_i$ $m$ $x_i$ $m$ $x_i$ $x_i$ Quindi la pendenza è sinistra di quella "media" e destra, quindi la minima è la minima. $-1$ $+1$

— pugnale
fonte

16

Una generalizzazione di questo problema a più dimensioni è chiamata problema mediano geometrico . Come sottolinea David, la mediana è la soluzione per il caso 1-D; lì, è possibile utilizzare algoritmi di selezione di ricerca mediana , che sono più efficienti dell'ordinamento. Gli ordinamenti sono mentre gli algoritmi di selezione sono ; gli ordinamenti sono più efficienti solo se sono necessarie selezioni multiple, nel qual caso è possibile ordinare (in modo costoso) una volta, quindi selezionare più volte dall'elenco ordinato. $O(n\log n)$ $O(n)$

Il collegamento al problema geometrico mediano menziona soluzioni per casi multidimensionali.

— Geoff Oxberry
fonte

6

La soluzione esplicita in termini di mediana è corretta, ma in risposta a un commento di Mayenew, ecco un altro approccio.

È noto che problemi di minimizzazione in generale, e in particolare il problema pubblicato, possono essere risolti mediante la programmazione lineare. $\ell^1$

La seguente formulazione LP farà per l'esercizio dato con incognite : $z_i,m$

tale che:

m i n \sum z_{i}

$min \sum z_i$

z_{i} \geq m - x_{i}

$z_i \ge m - x_i$

z_{i} \geq x_{i} - m

$z_i \ge x_i - m$

Chiaramente deve uguagliare come minimo, quindi questo richiede di minimizzare la somma dei valori assoluti degli errori. $z_i$ $|x_i - m|$

— hardmath
fonte

2

Il modo di analisi convesso sovradimensionato per dimostrare questo è solo prendere i subgradients. In realtà questo equivale al ragionamento usato in alcune delle altre risposte che riguardano le pendenze.

$\left|m-x_i\right|$

$m<x_i$

$m=x_i$

$m>x_i$

$m$ $x_1,\ldots x_k$

— cjordan1
fonte

0

\arg min_{m} \sum_{i = 1}^{N} | m - x_{i} |

$\arg \min_{m} \sum_{i = 1}^{N} \left| m - {x}_{i} \right|$

$\frac{\mathrm{d} \left | x \right | }{\mathrm{d} x} = \operatorname{sign} \left( x \right)$ ${L}_{1}$
$\sum_{i = 1}^{N} \operatorname{sign} \left( m - {x}_{i} \right)$
$m = \operatorname{median} \left\{ {x}_{1}, {x}_{2}, \cdots, {x}_{N} \right\}$

Si dovrebbe notare che il mediangruppo discreto non è definito in modo univoco.
Inoltre, non è necessariamente un elemento all'interno del gruppo.

— Royi
fonte