Chiarimento sull'implementazione della Discendenza della regola di Perceptron rispetto alla discesa del gradiente rispetto alla discesa del gradiente stocastico

Ho sperimentato un po 'con diverse implementazioni di Perceptron e voglio assicurarmi di capire correttamente le "iterazioni".

La regola originale del percettrone di Rosenblatt

A quanto ho capito, nel classico algoritmo perceptron di Rosenblatt, i pesi vengono aggiornati simultaneamente dopo ogni esempio di allenamento tramite

$\Delta{w}^{(t+1)} = \Delta{w}^{(t)} + \eta(target - actual)x_i$

dove è la regola di apprendimento qui. E il target e l'effettivo sono entrambi con soglia (-1 o 1). L'ho implementato come 1 iterazione = 1 passaggio sul campione di allenamento, ma il vettore del peso viene aggiornato dopo ogni campione di allenamento.$eta$

E calcolo il valore "effettivo" come

$sign ({\pmb{w}^T\pmb{x}}) = sign( w_0 + w_1 x_1 + ... + w_d x_d)$

Discesa gradiente stocastica

$\Delta{w}^{(t+1)} = \Delta{w}^{(t)} + \eta(target - actual)x_i$

Uguale alla regola del percettrone, tuttavia, targete actualnon sono soglie ma valori reali. Inoltre, conto "iterazione" come percorso sul campione di addestramento.

Sia SGD che la classica regola perceptron convergono in questo caso linearmente separabile, tuttavia, ho problemi con l'implementazione della discesa del gradiente.

Discesa a gradiente

Qui, controllo il campione di allenamento e riassumo le variazioni di peso per 1 passaggio sul campione di allenamento e successivamente ho aggiornato i pesi, ad es.

per ogni campione di addestramento:

$\Delta{w_{new}} \mathrel{{+}{=}} \Delta{w}^{(t)} + \eta(target - actual)x_i$

...

dopo 1 passaggio sul set di allenamento:

$\Delta{w} \mathrel{{+}{=}} \Delta{w_{new}}$

Mi chiedo se questa ipotesi sia corretta o se mi manchi qualcosa. Ho provato vari tassi di apprendimento (fino a infinitamente piccoli), ma non sono mai riuscito a far sì che mostrasse alcun segno di convergenza. Quindi, mi chiedo se ho frainteso sth. Qui.

Grazie Sebastian

Hai un paio di errori nei tuoi aggiornamenti. Penso che generalmente confondi il valore dei pesi attuali con la differenza tra i pesi attuali e quelli precedenti. Hai simboli sparsi dove non ci dovrebbe essere alcuno, e + = dove dovresti avere =.$\Delta$

perceptron:

,$\pmb{w}^{(t+1)} = \pmb{w}^{(t)} + \eta_t (y^{(i)} - \hat{y}^{(i)}) \pmb{x}^{(i)}$

dove y ( i )è la previsione del modello su$\hat{y}^{(i)} = \text{sign} ({\pmb{w}^\top\pmb{x}^{(i)}})$sull'esempio di addestramento i t h .$i^{th}$

Questo può essere visto come un metodo discendente stocastico discendente sulla seguente funzione "perdita percettron" *:

Perdita di Perceptron:

$L_{\pmb{w}}(y^{(i)}) = \max(0, -y^{(i)} \pmb{w}^\top\pmb{x}^{(i)})$

.$\partial L_{\pmb{w}}(y^{(i)}) = \begin{array}{rl} \{ 0 \}, & \text{ if } y^{(i)} \pmb{w}^\top\pmb{x}^{(i)} > 0 \\ \{ -y^{(i)} \pmb{x}^{(i)} \}, & \text{ if } y^{(i)} \pmb{w}^\top\pmb{x}^{(i)} < 0 \\ [-1, 0] \times y^{(i)} \pmb{x}^{(i)}, & \text{ if } \pmb{w}^\top\pmb{x}^{(i)} = 0 \\ \end{array}$

Poiché perceptron è già una forma di SGD, non sono sicuro del motivo per cui l'aggiornamento SGD dovrebbe essere diverso dall'aggiornamento perceptron. Il modo in cui hai scritto il passaggio SGD, con valori senza soglia, subisci una perdita se prevedi una risposta troppo corretta. Questo è male.

Il tuo gradiente batch è sbagliato perché stai usando "+ =" quando dovresti usare "=". I pesi correnti vengono aggiunti per ogni istanza di allenamento . In altre parole, il modo in cui l'hai scritto,

$\pmb{w}^{(t+1)} = \pmb{w}^{(t)} + \sum_{i=1}^n \{\pmb{w}^{(t)} - \eta_t \partial L_{\pmb{w}^{(t)}}(y^{(i)}) \}$

Quello che dovrebbe essere è:

$\pmb{w}^{(t+1)} = \pmb{w}^{(t)} - \eta_t \sum_{i=1}^n {\partial L_{\pmb{w}^{(t)}}(y^{(i)}) }$ .

Inoltre, affinché l'algoritmo converga su tutti i set di dati, è necessario ridurre la frequenza di apprendimento su un programma, come $\eta_t = \frac{\eta_0}{\sqrt{t}}$.

* L'algoritmo perceptron non è esattamente lo stesso di SSGD sulla perdita di perctron. Di solito in SSGD, in caso di pareggio ($\pmb{w}^\top\pmb{x}^{(i)} = 0$), $\partial L= [-1, 0] \times y^{(i)} \pmb{x}^{(i)}$, così $\pmb{0} \in \partial L$, quindi ti sarebbe permesso di non fare un passo. Di conseguenza, la perdita di percettrone può essere minimizzata a$\pmb{w} = \pmb{0}$, che è inutile. Ma nell'algoritmo perceptron , è necessario interrompere i legami e utilizzare la direzione del subgradient$-y^{(i)} \pmb{x}^{(i)} \in \partial L$ se scegli la risposta sbagliata.

Quindi non sono esattamente gli stessi, ma se lavori partendo dal presupposto che l'algoritmo perceptron è SGD per qualche funzione di perdita, e decodifica la funzione di perdita, la perdita di perctron è ciò con cui finisci.