Risorse per l'apprendimento di tecniche multi-target?

Sto cercando risorse (libri, appunti di lezione, ecc.) Su tecniche in grado di gestire dati con target multipli (es: tre variabili dipendenti: 2 discrete e 1 continua).

Qualcuno ha risorse / conoscenze su questo? So che è possibile utilizzare le reti neurali per questo.

La foresta casuale la gestisce piuttosto bene, vedi Sarebbe possibile / pratica una foresta casuale con più uscite? o la documentazione di scikit learn . Immagino che GBM o qualsiasi metodo basato sugli alberi possano essere adattati in modo simile.

$\sum_i(p_i-y_i)^2$$\sum_i(\hat{y}_i-y_i)^2+(\hat{x}_i-x_i)^2$

Se si dispone di output di tipo misto (classificazione e regressione), la specifica della funzione target richiederà probabilmente di specificare una funzione target che dia più peso ad alcuni target rispetto ad altri: quale ridimensionamento si applica alle risposte continue? Quale perdita si applica alle classificazioni mancanti?

Per quanto riguarda ulteriori letture accademiche,

Wikipedia di SVM Structured Learning

Sfruttando contemporaneamente strutture di output e attività per la regressione di output multipli

Il metodo di selezione del punto di riferimento per la previsione di output multipli (si occupa di variabili dipendenti ad alta dimensione)

Questo documento fa un buon lavoro nel descrivere i metodi attuali, i kit di strumenti disponibili e i set di dati su cui testare.

Mi capita di lavorare su un problema commerciale che richiede la regressione multi-target e ho scoperto che il toolkit Clus ha una buona miscela di alte prestazioni e robustezza

• La documentazione è eccellente
• Il toolkit ha diversi metodi sia per la classificazione multi-target che per la regressione
• Supporta inoltre l'induzione e il clustering basati su regole.
• I modelli di ensemble (Bagging, RandomForest) che ho usato possono essere letti e interpretati facilmente.

Alcuni dei metodi più recenti (post 2012) sono stati implementati come estensione del toolkit Mulan, ecco il link Github . Sebbene questi metodi come Combinazioni di target lineari casuali riportino prestazioni migliori rispetto ai modelli di ensemble, ho scoperto che il toolkit non è maturo come il toolkit Clus e quindi non li ha utilizzati.

Un approccio bayesiano su questo tipo di problema: modelli bayesiani non parametrici per dati di tipo misto indicizzati spazialmente . L'elemento a risposta multipla viene gestito da vari vettori casuali normalmente distribuiti e relative funzioni di collegamento. In modo che la risposta completa sia una pila di un vettore di normali, vettore di conteggi e vettore di bernoullis.