Ridimensionamento (funzionalità) degli alberi decisionali e normalizzazione (ottimizzazione) delle variabili (funzione) richiesti in quali implementazioni?


10

In molti algoritmi di machine learning, il ridimensionamento delle funzioni (noto anche come ridimensionamento variabile, normalizzazione) è un passaggio di preprocessamento comune Wikipedia - Ridimensionamento delle funzionalità - questa domanda era vicina Domanda n. 41704 - Come e perché funzionano la normalizzazione e il ridimensionamento delle funzioni?

Ho due domande specifiche per quanto riguarda gli alberi decisionali:

  1. Esistono implementazioni dell'albero decisionale che richiederebbero il ridimensionamento delle funzionalità? Ho l'impressione che la maggior parte dei criteri di suddivisione degli algoritmi siano indifferenti alla scala.
  2. Considera queste variabili: (1) Unità, (2) Ore, (3) Unità all'ora - è meglio lasciare queste tre variabili "così come sono" quando vengono inserite in un albero decisionale o ci imbattiamo in un qualche tipo di conflitto poiché la variabile "normalizzata" (3) è correlabile a (1) e (2)? Cioè, attaccheresti questa situazione lanciando tutte e tre le variabili nel mix, o in genere sceglieresti una combinazione delle tre o semplicemente utilizzeresti la funzione "normalizzata / standardizzata" (3)?

Risposte:


6

Per 1, gli alberi decisionali in genere non richiedono in genere il ridimensionamento. Tuttavia, aiuta con la visualizzazione / manipolazione dei dati e potrebbe essere utile se si intende confrontare le prestazioni con altri dati o altri metodi come SVM.

Per 2, questa è una questione di ottimizzazione. Le unità / ora possono essere considerate un tipo di interazione variabile e possono avere un potere predittivo diverso da ciascuno solo. Questo dipende in realtà dai tuoi dati, però. Proverei con e senza per vedere se c'è una differenza.

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.