Ponderazione dei dati più recenti nel modello Foresta casuale

Sto addestrando un modello di classificazione con Random Forest per discriminare tra 6 categorie. I miei dati transazionali hanno circa 60k + osservazioni e 35 variabili. Ecco un esempio di come appare approssimativamente.

 _________________________________________________
|user_id|acquisition_date|x_var_1|x_var_2| y_vay  |
|-------|----------------|-------|-------|--------|
|111    | 2013-04-01     | 12    | US    | group1 |
|222    | 2013-04-12     | 6     | PNG   | group1 |
|333    | 2013-05-05     | 30    | DE    | group2 |
|444    | 2013-05-10     | 78    | US    | group3 |
|555    | 2013-06-15     | 15    | BR    | group1 |
|666    | 2013-06-15     | 237   | FR    | group6 |

Una volta creato il modello, vorrei ottenere un punteggio delle osservazioni dell'ultima settimana. Poiché sono state apportate modifiche al sistema, le osservazioni più recenti assomigliano più da vicino all'ambiente delle osservazioni attuali che mi piacerebbe prevedere. Quindi, voglio creare una variabile di peso in modo tale che la foresta casuale attribuisca maggiore importanza alle recenti osservazioni.

Qualcuno sa se il pacchetto randomForest in R è in grado di gestire pesi per osservazione?

Inoltre, puoi suggerire qual è un buon metodo per creare la variabile di peso? Ad esempio, poiché i miei dati sono del 2013, stavo pensando di poter prendere il numero del mese dalla data come peso. Qualcuno vede un problema con questo metodo?

Molte grazie in anticipo!

Il rangerpacchetto in R ( pdf ), che è relativamente nuovo, lo farà. L'implementazione di ranger di foreste casuali ha un case.weightsargomento che prende un vettore con singoli casi / pesi di osservazione.

È possibile ricampionare i dati per rappresentare i punti dati più recenti. Rf comporta comunque un passaggio di campionamento con sostituzione e "insaccamento approssimativamente bilanciato" per le classi non bilanciate utilizza il campionamento per rappresentare eccessivamente la classe di minoranza e produce risultati come foresta casuale ponderata migliore o migliore della classe nella mia esperienza.

Potresti ricampionare a livello di costruzione della tua matrice di allenamento ( riferimento ) invece che durante l'insaccamento per semplificare l'implementazione, anche se suggerirei di fare molte ripetizioni in quel caso.

Internamente alcune implementazioni di foreste casuali, incluso lo scikit-learn, utilizzano effettivamente i pesi dei campioni per tenere traccia di quante volte ogni campione è in borsa e dovrebbe essere equivalente al sovracampionamento a livello di insaccamento e vicino al sovracampionamento a livello di addestramento nella convalida incrociata.

Dovresti esaminare il parametro "classwt". Questo non sembra essere ciò a cui sei direttamente interessato, ma potrebbe darti un'idea di ciò che vuoi fare.

Vedi qui: Stack Exchange domanda n. 1

E qui: Stack Exchange domanda n. 2

Articolo sulle foreste casuali ponderate: PDF

L'idea di base è ponderare le classi in modo tale che i gruppi / le classificazioni osservate raramente abbiano maggiori probabilità di essere selezionate nei campioni bootstrap. Ciò è utile per i dati sbilanciati (quando le probabilità precedenti di classi diverse sono ampiamente diverse).

Mi sembra che tu voglia fare qualcosa di simile, ma per eventi recenti (non per determinati gruppi / classificazioni). Un modo semplice per farlo sarebbe quello di creare osservazioni duplicate (ovvero inserire righe ripetute e identiche) per osservazioni più recenti. Tuttavia, questo potrebbe essere potenzialmente inefficiente. Non conosco un modo per ponderare direttamente ogni osservazione in R, ma potrei esserne ignaro.

Potresti provare a cercare implementazioni alternative, ad esempio in C - nel peggiore dei casi, queste potrebbero essere personalizzate con un po 'di codice.