Foreste casuali per regressione multivariata

Ho un problema di regressione multi-output con input e output . Gli output hanno una struttura di correlazione complessa, non lineare. $d_x$ $d_y$

Vorrei usare foreste casuali per fare la regressione. Per quanto ne so, le foreste casuali per la regressione funzionano solo con un singolo output, quindi dovrei addestrare foreste casuali - una per ogni output. Questo ignora le loro correlazioni. $d_y$

Esiste un'estensione alle foreste casuali che tiene conto delle correlazioni di output? Forse qualcosa come la regressione del processo gaussiano per l'apprendimento multi-task .

regression multivariate-analysis random-forest

— sergeyf
fonte

ecco cosa sono stato in grado di scavare finora: scikit-learn.org/dev/modules/tree.html#multi-output-problems

— sergeyf

sicuro. ho "immagini" ad alta dimensione (in realtà spettri dI / dV) di peptidi. l'obiettivo è capire le posizioni e le classi degli aminoacidi che compongono il peptide. il mio primo approccio era la segmentazione delle immagini, ma i CRF e le foreste casuali pixel-saggio fallirono. così ora, invece di dire che ogni pixel "appartiene" a un solo aminoacido (non proprio vero), sto assegnando a ciascun pixel un valore relativo di "influenza" dagli amminoacidi vicini. Ciò comporta un

istogramma tridimensionale per ciascun pixel. quindi, regressione multipla dell'output!

d_{y}

$d_y$

— sergeyf,

Potrebbe essere una risposta tardiva: in Crimisini et al. Foreste decisionali: un quadro unificato per la classificazione, la regressione, la stima della densità, l'apprendimento collettivo che usano la RF in un modo che potrebbe adattarsi all'identificazione dei confini degli organi.

— Simone

Anche questo potrebbe essere in ritardo, ma potrebbe aiutare chiunque inciampare in questo post. La foresta casuale può essere facilmente addestrata utilizzando dati multivariati. Tutto accade allo stesso modo, tuttavia invece di utilizzare la varianza per il calcolo del guadagno di informazioni, utilizziamo la covarianza delle variabili di output multiple. E, soprattutto, le foglie ora contengono PDF N-dimensionali.

— Masad,

Non so che la RF "Questo ignora le loro correlazioni". Data la natura d'insieme della RF, penso che potrebbero spiegare le correlazioni. Se avessero ricevuto input univariati e avessero prodotto output univariati, non avrebbero tenuto conto delle correlazioni.

— EngrStudent - Ripristina Monica

Ecco un esempio di un problema di regressione multi-output intrapreso con il riconoscimento facciale. Include anche un esempio di codifica, dovrebbe iniziare con la tua metodologia. http://scikit-learn.org/stable/auto_examples/plot_multioutput_face_completion.html

— orange1
fonte

Esiste un nuovo pacchetto appositamente per quello (non testato personalmente)

https://cran.r-project.org/package=MultivariateRandomForest

— MM
fonte