Ecco il problema di deviazione meno assoluto in questione: $\underset{\textbf{w}}{\arg\min} L(w)=\sum_{i=1}^{n}|y_{i}-\textbf{w}^T\textbf{x}|$ . So che può essere riorganizzato come problema LP nel seguente modo:

$\min \sum_{i=1}^{n}u_{i}$

$u_i \geq \textbf{x}^T\textbf{w}- y_{i} \; i = 1,\ldots,n$

$u_i \geq -\left(\textbf{x}^T\textbf{w}-y_{i}\right) \; i = 1,\ldots,n$

Ma non ho idea di risolverlo passo dopo passo, dato che sono un principiante di LP. Hai qualche idea? Grazie in anticipo!

MODIFICARE:

Ecco l'ultima fase che ho raggiunto a questo problema. Sto cercando di risolvere il problema seguendo questa nota :

Passaggio 1: formularlo in un modulo standard

$\min Z=\sum_{i=1}^{n}u_{i}$

$\textbf{x}^T\textbf{w} -u_i+s_1=y_{i} \; i = 1,\ldots,n$

$\textbf{x}^T\textbf{w} +u_i+s_2=-y_{i} \; i = 1,\ldots,n$

soggetto a$s_1 \ge 0; s_2\ge 0; u_i \ge 0 \ i=1,...,n$

Passaggio 2: costruire un tableau iniziale

           |      |    0      |    1   |  0  |   0   |   0    
 basic var | coef |  $p_0$    |  $u_i$ |  W  | $s_1$ | $s_2$ 
      $s_1$| 0    |  $y_i$    |   -1   |  x  |   1   |   0
      $s_2 | 0    |  $-y_i$   |    1   |  x  |   0   |   1
      z    |      |    0      |    -1  |  0  |   0   |   0

Passaggio 3: Scegli le variabili di base

$u_i$ è scelto come variabile base di input. Ecco che arriva un problema. Quando si sceglie la variabile base di output, è ovvio . Secondo la nota, se , il problema ha una soluzione illimitata.$y_i/-1=-y_i/1=-y_i$$y_i\ge0$

Sono totalmente perso qui. Mi chiedo se c'è qualcosa che non va e come devo continuare i seguenti passi.

Volete un esempio per risolvere la deviazione minima assoluta mediante la programmazione lineare. Ti mostrerò una semplice implementazione in R. La regressione quantile è una generalizzazione della deviazione minima assoluta, come nel caso del quantile 0.5, quindi mostrerò una soluzione per la regressione quantile. Quindi puoi controllare i risultati con il quantregpacchetto R :

rq_LP  <-  function(x, Y, r=0.5, intercept=TRUE) {
    require("lpSolve")
    if (intercept) X  <-  cbind(1, x) else X <-  cbind(x)
    N   <-  length(Y)
    n  <-  nrow(X)
    stopifnot(n == N)
    p  <-  ncol(X)
    c  <-  c(rep(r, n), rep(1-r, n), rep(0, 2*p))  # cost coefficient vector
    A  <- cbind(diag(n), -diag(n), X, -X)
    res  <-  lp("min", c, A, "=", Y, compute.sens=1)
### Desempaquetar los coefs:
    sol <- res$solution
    coef1  <-  sol[(2*n+1):(2*n+2*p)]
    coef <- numeric(length=p)
    for (i in seq(along=coef)) {
         coef[i] <- (if(coef1[i]<=0)-1 else +1) *  max(coef1[i], coef1[i+p])
    }
    return(coef)
    }

Quindi lo usiamo in un semplice esempio:

library(robustbase)
data(starsCYG)
Y  <- starsCYG[, 2]
x  <- starsCYG[, 1]
rq_LP(x, Y)
[1]  8.1492045 -0.6931818

allora tu stesso puoi fare il controllo con quantreg.

La programmazione lineare può essere generalizzata con l'ottimizzazione convessa, dove oltre al simplex sono disponibili molti algoritmi più affidabili.

Vorrei suggerire di controllare il libro di ottimizzazione convesso e la cassetta degli attrezzi CVX che hanno fornito. Dove puoi facilmente formulare la minima deviazione assoluta con la regolarizzazione.

https://web.stanford.edu/~boyd/cvxbook/bv_cvxbook.pdf

http://cvxr.com/cvx/