voto duro, voto morbido nei metodi basati su ensemble


9

Sto leggendo l' apprendimento automatico pratico con Scikit-Learn e TensorFlow: concetti, strumenti e tecniche per costruire sistemi intelligenti . Quindi non sono in grado di capire la differenza tra voto duro e voto morbido nel contesto di metodi basati su ensemble.

Cito le loro descrizioni dal libro. Le prime due immagini dall'alto sono una descrizione per votazione forzata e l'ultima è per votazione soft.

inserisci qui la descrizione dell'immagine

inserisci qui la descrizione dell'immagine

inserisci qui la descrizione dell'immagine

Dal mio punto di vista, il voto difficile è una decisione a maggioranza, ma non capisco il voto soft e il motivo per cui il voto soft è migliore del voto difficile. Qualcuno mi insegnerebbe questi?

un post che ho letto


Digita il paragrafo di testo a lungo e ritaglia la parte di testo dall'immagine, non pubblicare l'immagine come testo. Questo è importante affinché questa domanda venga trovata cercando e indicizzando parole chiave importanti come "il voto forte dà più peso ai voti altamente sicuri".
smci,

Risposte:


13

Facciamo un semplice esempio per illustrare come funzionano entrambi gli approcci.

Immagina di avere 3 classificatori (1, 2, 3) e due classi (A, B) e dopo l'allenamento stai predicendo la classe di un singolo punto.

Voto difficile

Pronostici :

Il classificatore 1 prevede la classe A

Il classificatore 2 prevede la classe B

Il classificatore 3 prevede la classe B

2/3 classificatori prevedono la classe B, quindi la classe B è la decisione d'insieme .

Voto morbido

Predizioni

(Questo è identico all'esempio precedente, ma ora espresso in termini di probabilità. I ​​valori indicati solo per la classe A qui perché il problema è binario):

Il classificatore 1 prevede la classe A con una probabilità del 99%

Il classificatore 2 prevede la classe A con una probabilità del 49%

Il classificatore 3 prevede la classe A con una probabilità del 49%

La probabilità media di appartenere alla classe A attraverso i classificatori è (99 + 49 + 49) / 3 = 65.67%. Pertanto, la classe A è la decisione d'insieme .


Quindi puoi vedere che nello stesso caso, il voto morbido e duro può portare a decisioni diverse. Il voto morbido può migliorare il voto duro perché tiene conto di più informazioni; utilizza l'incertezza di ciascun classificatore nella decisione finale. L'elevata incertezza nei classificatori 2 e 3 qui significa essenzialmente che la decisione dell'ensemble finale si basava fortemente sul classificatore 1.

Questo è un esempio estremo, ma non è raro che questa incertezza modifichi la decisione finale.


1
Grazie mille per la tua spiegazione luminosa, mkt. Ho capito perfettamente questo problema.
gogogogogo,
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.