Dimensione del passo di discesa adattiva del gradiente quando non è possibile eseguire una ricerca di linea

Ho una funzione obiettiva $E$ dipendente da un valore $\phi(x, t = 1.0)$ , dove $\phi(x, t)$ è la soluzione per un PDE. Sto ottimizzando $E$ per discesa gradiente sulla condizione iniziale del PDE: $\phi(x, t = 0.0)$ . Cioè, aggiorno $\phi(x, t = 0.0)$ e poi devo integrare il PDE per calcolare il mio residuo. Ciò significa che se dovessi fare una ricerca di linea per la dimensione del gradino di discesa del gradiente (chiamalo $\alpha$ ), per ogni potenziale valore di $\alpha$ dovrei integrare di nuovo il PDE.

Nel mio caso sarebbe proibitivo. Esiste un'altra opzione per la dimensione del gradino di discesa gradiente adattiva?

Non sto solo cercando schemi matematicamente di principio qui (anche se ovviamente è meglio se esiste qualcosa), ma sarei felice di tutto ciò che è generalmente migliore di una dimensione statica del gradino.

Grazie!

optimization pde conjugate-gradient

— NLi10Me
fonte

Non credo di voler modificare il modo in cui integrare PDE al momento, per quanto mi riguarda sarebbe una riscrittura del codice principale. Inoltre, non è così tanto che il PDE è complicato, in quanto devo risolverlo su una griglia molto densa nello spaziotempo poiché ho bisogno di un'elevata precisione numerica.

— NLi10,

D'altra parte, il metodo BB (che non conoscevo) sembra abbastanza buono; tutto ciò che devo fare è tenere traccia dello stato e del gradiente della precedente iterazione e ottengo un'approssimazione del secondo ordine ... che sembra molto bella. Tuttavia, la derivazione assume un quadratico convesso e il mio problema quasi certamente non lo è. Tuttavia, sto certamente trovando (e contento) minimi locali piuttosto che globali. Sai quanto bene BB ha funzionato su problemi dimensionali molto elevati?

— NLi10,

Immagino che cosa intendevo per minimi locali è che, in prossimità di un minimo locale, nessuna funzione non è approssimativamente quadratica? Penso che il mio stato iniziale

sia sufficientemente vicino al minimo, poiché in molti casi ottengo una convergenza regolare anche con la dimensione statica del passo. Quindi, anche se è di dimensioni molto elevate, e in generale se si considera l'intero spazio di ricerca il problema è non convesso / non quadratico, BB potrebbe essere comunque una buona scelta senza la ricerca di linee?

ϕ^{(0)} (x, t = 0.0)

$\phi^{(0)}(x, t = 0.0)$

— NLi10,

Gli altri "ingredienti" di

sono dati di immagine sperimentali.

tenta di deformare un'immagine per "far corrispondere" l'altra (misurata da alcuni funzionali corrispondenti come la norma L2 integrata sui voxel). Per alcune coppie di immagini, ottengo una convergenza uniforme con (la mia scelta attuale di) dimensioni del passo statiche. Per altre coppie di immagini, ho molte oscillazioni. Il sistema deve essere completamente automatizzato, quindi non posso tornare indietro e modificare manualmente la dimensione del passo per coppie di immagini problematiche.

E

$E$

ϕ (x, t = 1.0)

$\phi(x, t = 1.0)$

— NLi10,

Bene, devo risolvere il sistema aggiunto per ottenere il gradiente (che è un sistema più cattivo e impiega più tempo). Ok, penso che proverò BB con la ricerca della riga di backtracking. Grazie molto molto per la consulenza; i miei consulenti sono spesso difficili da trovare e molti di loro non sono interessati all'implementazione tanto quanto al modello. Sto trovando che i metodi numerici sono la componente cruciale per dimostrare se un modello è buono o meno, quindi grazie ancora lo apprezzo molto.

— NLi10,

Inizierò con un'osservazione generale: le informazioni del primo ordine (ovvero, usando solo i gradienti, che codificano la pendenza) possono solo darti informazioni direzionali: può dirti che il valore della funzione diminuisce nella direzione di ricerca, ma non per quanto tempo . Per decidere fino a che punto andare lungo la direzione di ricerca, sono necessarie ulteriori informazioni (la discesa del gradiente con lunghezze di passo costanti può non riuscire anche per problemi quadratici convessi). Per questo, hai sostanzialmente due scelte:

$1$
Prova ed errore (per cui ovviamente intendo usare una corretta ricerca di linea come Armijo).

$\mathcal{O}(1)$

$\alpha_0>0$ $g^0:=\nabla f(x^0)$ $k=0,...$

$s^k = -\alpha_k^{-1} g^k$ $x^{k+1}=x^k+s^k$
$g^{k+1}=\nabla f(x^{k+1})$ $y^k = g^{k+1}-g^{k}$
$\alpha_{k+1} = \frac{(y^k)^Ty^k}{(y^k)^Ts^k}$

$f(x^{k+1})$ $f(x^k)$ $\sigma_k \in (0,\alpha_k^{-1})$

f (x^{k} - σ_{k} g^{k}) \leq max_{max (k - M, 1) \leq j \leq k} f (x^{j}) - γ σ_{k} (g^{k})^{T} g^{k},

$f(x^k - \sigma_k g^k) \leq \max_{\max(k-M,1)\leq j\leq k} f(x^j) - \gamma \sigma_k (g^k)^Tg^k,$

γ \in (0, 1)

$\gamma\in(0,1)$

M

$M$

M = 10

$M=10$

Un approccio alternativo (e, a mio avviso, molto migliore) sarebbe quello di utilizzare questa approssimazione delle differenze finite già nel calcolo della direzione di ricerca; questo è chiamato un metodo quasi-Newton . L'idea è quella di costruire in modo incrementale un'approssimazione dell'Assia usando le differenze di gradienti. Ad esempio, potresti prendere (la matrice identità) e per risolvi e imposta con come sopra e . (Questo si chiama aggiornamento di Broyden $\nabla^2 f(x^k)$ $H_0=\mathrm{Id}$ $k=0,\dots$

\begin{matrix} (1) & H_{k} s^{k} = - g^{k}, \end{matrix}

$H_{k}s^{k} = -g^{k},\label{cc1}\tag{1}$

H_{k + 1} = H_{k} + \frac{(y^{k} - H_{k} s^{k})^{T} (s^{k})^{T}}{(s^{k})^{T} s^{k}}

$H_{k+1} = H_k + \frac{(y^k-H_ks^k)^T(s^k)^T}{(s^k)^Ts^k}$

y^{k}

$y^k$

x^{k + 1} = x^{k} + s^{k}

$x^{k+1} = x^k +s^k$ ed è usato raramente in pratica; un aggiornamento migliore ma leggermente più complicato è l' aggiornamento BFGS , per il quale - e ulteriori informazioni - mi riferisco all'ottimizzazione numerica del libro di Nocedal e Wright .) L'aspetto negativo è che a) ciò richiederebbe la risoluzione di un sistema lineare in ogni passaggio (ma solo delle dimensioni dell'ignoto che nel tuo caso è una condizione iniziale, quindi lo sforzo dovrebbe essere dominato risolvendo i PDE per ottenere il gradiente; inoltre, esistono regole di aggiornamento per approssimazioni dell'Assia inversa , che richiedono solo il calcolo di una singola matrice -vector prodotto) eb) hai ancora bisogno di una ricerca per garantire la convergenza ...

Fortunatamente, in questo contesto esiste un approccio alternativo che utilizza ogni valutazione delle funzioni. L'idea è che per simmetrico e positivo definito (che è garantito per l'aggiornamento BFGS), risolvere equivale a minimizzare il modello quadratico In un metodo di regione attendibile , lo faresti con il vincolo aggiuntivo che , dove è un raggio della regione di fiducia opportunamente scelto (che svolge il ruolo della lunghezza del passo ). L'idea chiave è ora di scegliere questo raggio in modo adattivo, in base al passo calcolato. In particolare, guardi il rapporto $H_k$ $\eqref{cc1}$

q_{k} (s) = \frac{1}{2} s^{T} H_{k} s + s^{T} g^{k} .

$q_k(s) = \frac12 s^T H_k s + s^T g^k.$

‖ s ‖ \leq Δ_{k}

$\|s\| \leq \Delta_k$

Δ_{k}

$\Delta_k$

σ_{k}

$\sigma_k$

ρ_{k} := \frac{f (x^{k}) - f (x^{k} + s^{k})}{f (x^{k}) - q_{k} (s^{k})}

$\rho_k := \frac{f(x^k)-f(x^k+s^k)}{f(x^k)-q_k(s^k)}$ della riduzione effettiva e prevista del valore della funzione. Se è molto piccolo, il tuo modello era difettoso e scarti e riprova con . Se è vicino a , il modello è buono e si imposta e si aumenta . Altrimenti basta impostare e lasciare da solo. Per calcolare il minimizer effettivo di

ρ_{k}

$\rho_k$

s^{k}

$s^k$

Δ_{k + 1} < Δ_{k}

$\Delta_{k+1}<\Delta_k$

ρ_{k}

$\rho_k$

1

$1$

x^{k + 1} = x^{k} + s^{k}

$x^{k+1}=x^k+s^k$

Δ_{k + 1} > Δ_{k}

$\Delta_{k+1}>\Delta_k$

x^{k + 1} = x^{k} + s^{k}

$x^{k+1}=x^k+s^k$

Δ_{k}

$\Delta_k$

s^{k}

$s^k$

min_{‖ s ‖ \leq Δ_{k}} q_{k} (s)

$\min_{\|s\|\leq \Delta_k} q_k(s)$ , esistono diverse strategie per evitare di dover risolvere l'intero problema di ottimizzazione vincolata; il mio preferito è il metodo CG troncato di Steihaug . Per maggiori dettagli, mi riferisco di nuovo a Nocedal e Wright.

— Christian Clason
fonte

Sto solo guardando questo di nuovo, e mi rendo conto di avere una domanda. Nel passaggio tre per il metodo BB hai ; dove e . Il numeratore e il denominatore nell'espressione per sembrano prodotti interni. Nel mio caso, , dove è uno spazio vettoriale con una metrica riemanniana non banale: K. Cioè, . Ciò influisce sulla definizione di ?

α_{k + 1} = \frac{(y^{k})^{T} y^{k}}{(y^{k})^{T} s^{k}}

$\alpha_{k+1} = \frac{(y^k)^Ty^k}{(y^k)^Ts^k}$

y^{k} = g^{k + 1} - g^{k}

$y^{k} = g^{k+1} - g^k$

s^{k} = - α_{k}^{- 1} g^{k}

$s^k = -\alpha_k^{-1}g^k$

α_{k + 1}

$\alpha_{k+1}$

g^{k} \in V^{*}

$g^k \in V^*$

V^{*}

$V^*$

⟨ g^{k}, g^{k} ⟩_{V^{*}} = ⟨ g^{k}, K g^{k} ⟩_{L_{2}}

$\langle g^k, g^k \rangle _{V^*} = \langle g^k, Kg^k \rangle_{L_2}$

α_{k + 1}

$\alpha_{k+1}$

— NLi10,

Sì, se hai una struttura di spazio vettoriale non banale, dovresti rispettarla negli algoritmi. In particolare, dovresti distinguere tra prodotti interni di due funzioni nello stesso spazio (ad esempio, e ) e prodotti di dualità tra una funzione nello spazio e una nel doppio spazio (ad esempio, e ) - per quest'ultimo, è necessario includere la mappatura di Riesz per trasformarla prima in un prodotto interno. (Questo può essere interpretato come precondizionamento.)

y^{k}

$y^k$

y^{k}

$y^k$

s^{k}

$s^k$

y^{k}

$y^k$

— Christian Clason,

Dott. Clason, presenterò un documento all'ISBI 2017 che descrive in dettaglio alcuni esperimenti che ho fatto utilizzando il metodo di ricerca della linea BB + per un'attività di registrazione di immagini diffeomorfe. Vuoi essere incluso come autore nel manoscritto? Non l'ho ancora scritto, ma la maggior parte degli esperimenti è completa o in corso. Per favore mi faccia sapere.

— NLi10 Me

@ NLi10Me Grazie per la gentile offerta, ma non ho fatto nulla che meriti il coautore: tutto ciò che ho scritto è materiale standard per libri di testo. Se ti senti fortemente a riguardo, puoi ringraziarmi per "osservazioni utili su (qualunque cosa sia stata di aiuto)", ma nemmeno ciò sarebbe necessario. Sapere che ciò che ho scritto è stato utile è abbastanza!

— Christian Clason,

Scusa, hai ragione, questo è un errore di battitura - risolto! (La condizione di Armijo è spesso scritta come , dove è la direzione di ricerca - non necessariamente il negativo gradiente - e la dimensione del gradino, che dovrebbe chiarire cosa sta succedendo.)

f (x + σ s) - f (x) \leq γ \nabla f (x)^{T} (σ s)

$f(x+\sigma s) - f(x) \leq \gamma\nabla f(x)^T(\sigma s)$

s

$s$

σ

$\sigma$

— Christian Clason,