Statistiche e Big Data natural-language

3

Reti neuronali ricorrenti vs ricorsive: qual è la soluzione migliore per la PNL?

Esistono reti neurali ricorrenti e reti neurali ricorsive. Entrambi sono generalmente indicati con lo stesso acronimo: RNN. Secondo Wikipedia , le NN ricorrenti sono in realtà NN ricorsive, ma non capisco davvero la spiegazione. Inoltre, non riesco a trovare quale sia meglio (con esempi o giù di lì) per l'elaborazione …

48 machine-learning neural-networks deep-learning natural-language

7

Riferimenti di reti neurali (libri di testo, corsi online) per principianti

Voglio imparare le reti neurali. Sono un linguista computazionale. Conosco approcci statistici di machine learning e posso programmare in Python. Sto cercando di iniziare con i suoi concetti e conoscere uno o due modelli popolari che possono essere utili dal punto di vista della linguistica computazionale. Ho navigato sul web …

43 neural-networks deep-learning references natural-language computer-vision

5

LDA vs word2vec

Sto cercando di capire cos'è la somiglianza tra Allocazione latente di Dirichlet e word2vec per calcolare la somiglianza delle parole. A quanto ho capito, LDA associa le parole a un vettore di probabilità di argomenti latenti , mentre word2vec le associa a un vettore di numeri reali (relativi alla scomposizione …

39 machine-learning self-study natural-language latent-variable word2vec

3

Applica le incorporazioni di parole all'intero documento per ottenere un vettore di funzione

Come si usa l'incorporamento di parole per mappare un documento su un vettore di caratteristiche, adatto per l'uso con l'apprendimento supervisionato? Una parola che incorpora mappa ogni parola su un vettore , dove è un numero non troppo grande (ad esempio, 500). Gli incorporamenti di parole popolari includono word2vec e …

38 classification natural-language supervised-learning word2vec word-embeddings

1

Devo normalizzare i vettori di parole di word2vec prima di usarli?

Dopo aver addestrato i vettori di parole con word2vec, è meglio normalizzarli prima di usarli per alcune applicazioni a valle? Vale a dire quali sono i pro / contro di normalizzarli?

38 natural-language word2vec word-embeddings

3

Differenza intuitiva tra modelli Markov nascosti e campi casuali condizionali

Comprendo che gli HMM (Hidden Markov Models) sono modelli generativi e CRF sono modelli discriminatori. Comprendo anche come vengono progettati e utilizzati i CRF (Conditional Random Fields). Quello che non capisco è come sono diversi dagli HMM? Ho letto che nel caso di HMM, possiamo solo modellare il nostro stato …

33 machine-learning hidden-markov-model natural-language conditional-random-field

3

R: Random Forest lancia NaN / Inf nell'errore di "richiamo della funzione esterna" nonostante nessuna NaN nel set di dati [chiuso]

Chiuso. Questa domanda è fuori tema . Al momento non accetta risposte. Vuoi migliorare questa domanda? Aggiorna la domanda in modo che sia in argomento per Cross Validated. Chiuso 2 anni fa . Sto usando il cursore per eseguire una foresta casuale convalidata in modo incrociato su un set di …

29 r random-forest caret regression prediction fitting social-science poisson-distribution distributions characteristic-function bayesian prior regression normal-distribution interaction nonparametric skewness svm standard-deviation standard-error regression-coefficients igraph natural-language word2vec word-embeddings regression machine-learning sampling r regression machine-learning random-forest ensemble sampling unbiased-estimator proof estimators mse probability conditional-probability bayes anova missing-data neural-networks recommender-system r confidence-interval sample multiple-imputation r time-series forecasting mase

2

La somiglianza del coseno è identica alla distanza euclidea normalizzata l2?

Identico significato, che produrrà risultati identici per una somiglianza Classifica tra un vettore u e un insieme di vettori V . Ho un modello di spazio vettoriale che ha come parametro la misura della distanza (distanza euclidea, somiglianza del coseno) e la tecnica di normalizzazione (nessuna, l1, l2). Da quanto …

27 normalization natural-language euclidean cosine-distance cosine-similarity

3

Modelli di argomenti e metodi di ricorrenza delle parole

I modelli di argomenti popolari come LDA di solito raggruppano parole che tendono a ricorrere nello stesso argomento (cluster). Qual è la differenza principale tra tali modelli di argomenti e altri semplici approcci di clustering basati sulla ricorrenza come PMI? (PMI è l'acronimo di Pointwise Mutual Information, e viene utilizzato …

26 machine-learning text-mining natural-language topic-models

1

Le prestazioni allo stato dell'arte riportate nell'uso dei vettori di paragrafo per l'analisi del sentiment sono state replicate?

Sono rimasto impressionato dai risultati del documento ICML 2014 " Rappresentazioni distribuite di frasi e documenti " di Le e Mikolov. La tecnica che descrivono, chiamata "vettori di paragrafo", apprende rappresentazioni senza supervisione di paragrafi / documenti arbitrariamente lunghi, basati su un'estensione del modello word2vec. Il documento riporta prestazioni all'avanguardia …

20 text-mining natural-language word-embeddings sentiment-analysis reproducible-research

3

Perché skip-gram è meglio per parole rare di CBOW?

Mi chiedo perché skip-gram sia meglio per le parole rare rispetto a CBOW in word2vec. Ho letto il reclamo su https://code.google.com/p/word2vec/ .

19 natural-language word2vec word-embeddings

2

Perché l'elaborazione del linguaggio naturale non rientra nel dominio di Machine Learning? [chiuso]

Allo stato attuale, questa domanda non è adatta al nostro formato di domande e risposte. Ci aspettiamo che le risposte siano supportate da fatti, riferimenti o competenze, ma questa domanda probabilmente solleciterà dibattiti, argomenti, sondaggi o discussioni estese. Se ritieni che questa domanda possa essere migliorata e possibilmente riaperta, visita …

18 machine-learning text-mining natural-language

3

Nel livellamento di Kneser-Ney, come vengono gestite le parole invisibili?

Da quello che ho visto, la formula di lisciatura di Kneser-Ney (di secondo ordine) è in qualche modo data come P2KN(wn| wn - 1)= max {C( wn - 1,wn) - D , 0 }Σw'C( wn - 1, w')+ λ ( wn - 1) × Pc o n t( wn)PKN2(wn|wn-1)=max{C(wn-1,wn)-D,0}Σw'C(wn-1,w')+λ(wn-1)×Pcont(wn) \begin{align} …

15 machine-learning natural-language naive-bayes smoothing language-models

3

Modelli di argomenti per documenti brevi

Ispirato da questa domanda , mi chiedo se sia stato fatto qualche lavoro su modelli di argomenti per grandi raccolte di testi estremamente brevi. La mia intuizione è che Twitter dovrebbe essere un'ispirazione naturale per tali modelli. Tuttavia, da una sperimentazione limitata, sembra che i modelli di argomenti standard (LDA, …

14 references text-mining topic-models natural-language

2

In che modo gli n-grammi diventano controproducenti?

Quando si esegue l'elaborazione del linguaggio naturale, si può prendere un corpus e valutare la probabilità che la parola successiva si verifichi in una sequenza di n. n viene solitamente scelto come 2 o 3 (bigrammi e trigrammi). Esiste un punto noto in cui il rilevamento dei dati per l'ennesima …

13 text-mining natural-language

Domande taggate «natural-language»