Un percettrone può dimenticare?

Vorrei creare un sistema di apprendimento automatico online basato sul Web, in cui gli utenti possano aggiungere continuamente campioni classificati e aggiornare il modello online. Vorrei usare un percettrone o un algoritmo di apprendimento online simile.

Tuttavia, gli utenti possono commettere errori e inserire esempi irrilevanti. In tal caso, vorrei avere la possibilità di eliminare un esempio specifico, senza riqualificare il percettrone sull'intero set di esempi (che può essere molto ampio).

È possibile?

machine-learning online-algorithms

— Erel Segal-Halevi
fonte

idea molto interessante. hai fatto uno sforzo per formalizzare questo?

— Strin,

Dati i dettagli del tuo modello perceptron e del tuo classificatore, cosa succede quando inserisci nuovamente l'esempio con una classificazione corretta? Ciò non riduce il peso sui neuroni dello strato interno sbagliato e aumenta il peso sui neuroni dello strato interno giusto?

— Wandering Logic,

Il reinserimento del campione può ovviamente aiutare in qualche modo, tuttavia, non sono sicuro che le prove di correttezza e convergenza del percettrone saranno valide in questo caso (cioè non sono sicuro che i risultati saranno identici alla situazione in cui il campione errato ha non è stato inserito in primo luogo).

— Erel Segal-Halevi,

Come soluzione ingenua, è possibile tenere un registro dei pesi del perctron prima di aggiungere ogni nuovo campione. Quindi, quando si desidera eliminare un campione, (ri) impostare i pesi del percettrone sui loro valori prima che fosse aggiunto l'esempio "cattivo" e ri-addestrare il percettrone con tutti gli esempi validi aggiunti dopo quello "cattivo". Ciò implicherebbe un po 'di riqualificazione, ma non sull'intera serie di esempi. Ovviamente, dovresti anche conservare i registri degli esempi e i loro pesi associati.

— rphv,

Quando capisco il processo , è impossibile modificare un percettrone senza riqualificarlo. Le regolazioni del peso non sono solo relative a quell'esempio specifico, ma anche rispetto agli altri esempi di allenamento precedenti. Identificare l'istanza erroneamente classificata e rimuoverla dal set di test prima di riqualificare il modello sembrerebbe il modo più efficace per correggere i pesi.

Penso che valga la pena sottolineare che rispetto ad altri algoritmi di apprendimento automatico, i percettroni sono relativamente resistenti al rumore e alle istanze classificate in modo errato nel set di addestramento . Se stai riscontrando un gran numero di istanze classificate erroneamente, sembrerebbe più prudente avere una migliore convalida nel momento in cui ingerisci i dati prima dell'allenamento piuttosto che trovare un modo per correggere le istanze classificate erroneamente dopo che il perctron è stato addestrato. Se ciò non è possibile e si è in grado di identificare le istanze erroneamente classificate come tali, rimuoverle e riqualificarle sembrerebbe l'unico modo per rimuovere efficacemente l'impatto delle istanze classificate erroneamente.

— Richard D
fonte