Vedo che entrambe le funzioni fanno parte di metodi di data mining come Gradient Boosting Regressors. Vedo che anche quelli sono oggetti separati.
Come è la relazione tra i due in generale?
Vedo che entrambe le funzioni fanno parte di metodi di data mining come Gradient Boosting Regressors. Vedo che anche quelli sono oggetti separati.
Come è la relazione tra i due in generale?
Risposte:
Una funzione decisionale è una funzione che accetta un set di dati come input e fornisce una decisione come output. Quale può essere la decisione dipende dal problema attuale. Esempi inclusi:
In genere, esiste un numero infinito di funzioni decisionali disponibili per un problema. Se ad esempio siamo interessati a stimare l'altezza dei maschi svedesi sulla base di dieci osservazioni , possiamo usare una delle seguenti funzioni decisionali :d ( x )
Come possiamo quindi determinare quale di queste funzioni decisionali usare? Un modo è utilizzare una funzione di perdita , che descrive la perdita (o il costo) associata a tutte le possibili decisioni. Diverse funzioni decisionali tenderanno a generare diversi tipi di errori. La funzione di perdita ci dice che tipo di errori dovremmo essere più preoccupati. La funzione di decisione migliore è la funzione che produce la perdita minima prevista . Cosa si intende per perdita attesa dipende dall'impostazione (in particolare, se stiamo parlando di statistiche frequentiste o bayesiane ).
In sintesi:
La funzione di perdita è ciò che è minimizzato per ottenere un modello che è ottimale in un certo senso. Il modello stesso ha una funzione decisionale che viene utilizzata per prevedere.
Ad esempio, nei classificatori SVM: