Questa domanda pone un algoritmo generativo vs. discriminativo, ma qualcuno può fornire un esempio della differenza tra questi moduli quando applicato all'elaborazione del linguaggio naturale? Come vengono utilizzati i modelli generativi e discriminatori nella PNL?
Risposte:
Diciamo che stai predicendo l'argomento di un documento date le sue parole.
Un modello generativo descrive la probabilità di ciascun argomento e la probabilità con cui vengono fornite le parole. Questo è il modo in cui dice che i documenti sono in realtà "generati" dal mondo - un argomento nasce secondo una certa distribuzione, le parole sorgono a causa dell'argomento, hai un documento. Classificare i documenti di parole W nell'argomento T è una questione di massimizzare la probabilità congiunta: P (T, W) = P (W | T) P (T)
Un modello discriminante opera solo descrivendo la probabilità con cui un argomento viene dato le parole. Non dice nulla sulla probabilità che le parole o l'argomento siano da soli. Il compito è di modellare direttamente P (T | W) e trovare la T che massimizza questo. A questi approcci non interessa direttamente P (T) o P (W).