Statistiche e Big Data maximum-likelihood

1

Quando è preferibile utilizzare la stima della massima verosimiglianza invece dei minimi quadrati ordinari? Quali sono i punti di forza e le limitazioni di ciascuno? Sto cercando di raccogliere conoscenze pratiche su dove usarli in situazioni comuni.

13 regression maximum-likelihood least-squares

1

Stima dei parametri LogLikelihood per il filtro Kalman gaussiano lineare

Ho scritto un codice in grado di eseguire il filtraggio di Kalman (utilizzando un numero di diversi filtri di tipo Kalman [Information Filter et al.]) Per l'analisi dello spazio di stato gaussiano lineare per un vettore di stato n-dimensionale. I filtri funzionano alla grande e sto ottenendo un bel risultato. …

13 maximum-likelihood algorithms kalman-filter likelihood

1

AIC / BIC: quanti parametri conta una permutazione?

Diciamo che ho un problema di selezione dei modelli e sto cercando di utilizzare AIC o BIC per valutare i modelli. Questo è semplice per i modelli che hanno un certo numero di parametri con valori reali.kkk Tuttavia, cosa succede se uno dei nostri modelli (ad esempio, il modello Mallows …

13 modeling maximum-likelihood aic fitting bic

1

Calcolo della probabilità da RMSE

Ho un modello per prevedere una traiettoria (x in funzione del tempo) con diversi parametri. Al momento, calcolo l'errore quadratico medio radice (RMSE) tra la traiettoria prevista e la traiettoria registrata sperimentalmente. Attualmente, minimizzo questa differenza (RMSE) usando simplex (fminsearch in matlab). Mentre questo metodo funziona per fornire buoni accoppiamenti, …

13 maximum-likelihood curve-fitting

2

Assia della probabilità del profilo utilizzata per la stima dell'errore standard

Questa domanda è motivata da questa . Ho cercato due fonti e questo è quello che ho trovato. A. van der Vaart, Statistiche assintotiche: Raramente è possibile calcolare esplicitamente la probabilità di un profilo, ma la sua valutazione numerica è spesso fattibile. Quindi la probabilità del profilo può servire a …

13 estimation maximum-likelihood likelihood asymptotics profile-likelihood

1

La stima MLE è asintoticamente normale ed efficiente anche se il modello non è vero?

Premessa: questa potrebbe essere una domanda stupida. Conosco solo le dichiarazioni sulle proprietà asintotiche dell'MLE, ma non ho mai studiato le prove. Se lo facessi, forse non avrei fatto queste domande, o forse avrei realizzato che queste domande non hanno senso ... quindi per favore, andate piano con me :) …

13 maximum-likelihood model asymptotics

1

Alla ricerca di una comprensione teorica della regressione logistica Firth

Sto cercando di capire la regressione logistica Firth (metodo di gestione della separazione perfetta / completa o quasi completa nella regressione logistica) in modo da poterlo spiegare ad altri in termini semplificati. Qualcuno ha una spiegazione minuziosa di quale modifica sta effettuando la stima Firth a MLE? Ho letto, per …

13 logistic maximum-likelihood separation

3

Qual è il metodo dei momenti e in che cosa differisce dall'MLE?

In generale sembra che il metodo dei momenti stia semplicemente abbinando la media campionaria osservata, o varianza con i momenti teorici per ottenere stime dei parametri. Questo è spesso lo stesso di MLE per famiglie esponenziali, mi pare. Tuttavia, è difficile trovare una chiara definizione del metodo dei momenti e …

13 maximum-likelihood method-of-moments

1

Puoi dare una semplice spiegazione intuitiva del metodo IRLS per trovare l'MLE di un GLM?

Sfondo: Sto cercando di seguire la recensione di Princeton della stima MLE per GLM . Capisco le basi di stima MLE: likelihood, score, osservato e atteso Fisher informatione la Fisher scoringtecnica. E so come giustificare la semplice regressione lineare con la stima MLE . La domanda: Non riesco a capire …

12 regression generalized-linear-model maximum-likelihood link-function irls

3

Stima della massima verosimiglianza della distribuzione congiunta dati solo conteggi marginali

Sia una distribuzione congiunta di due variabili categoriali , con . Supponiamo che da questa distribuzione siano stati estratti campioni, ma ci vengono dati solo i conteggi marginali, vale a dire per : X , Y x , y ∈ { 1 , … , K } n j = …

12 categorical-data maximum-likelihood joint-distribution marginal maximum-entropy

1

Calcola la probabilità logaritmica "a mano" per la regressione generalizzata dei minimi quadrati non lineari (nlme)

Sto provando a calcolare la probabilità logaritmica per una regressione generalizzata dei minimi quadrati non lineari per la funzione ottimizzata dal funzione nel pacchetto R , usando la matrice di covarianza di varianza generata dalle distanze su un albero filogenetico assumendo un movimento browniano ( dal pacchetto). Il seguente codice …

12 r maximum-likelihood least-squares nonlinear-regression mixed-model

1

Rapporto di probabilità vs rapporto di PDF

Sto usando Bayes per risolvere un problema di clustering. Dopo aver fatto alcuni calcoli, finisco con la necessità di ottenere il rapporto tra due probabilità: P(A)/P(B)P(A)/P(B)P(A)/P(B) per essere in grado di ottenere P(H|D)P(H|D)P(H|D) . Queste probabilità sono ottenute dall'integrazione di due diversi KDE multivariati 2D come spiegato in questa risposta …

12 probability bayesian maximum-likelihood kernel-smoothing

2

MLE significa sempre che conosciamo il PDF sottostante dei nostri dati e EM significa che non lo sappiamo?

Ho alcune semplici domande concettuali che vorrei chiarire per quanto riguarda l'MLE (stima della massima verosimiglianza) e quale collegamento abbia, eventualmente, con EM (massimizzazione delle aspettative). A quanto ho capito, se qualcuno dice "Abbiamo usato l'MLE", significa automaticamente che hanno un modello esplicito del PDF dei loro dati? Mi sembra …

12 estimation maximum-likelihood expectation-maximization

2

Stimatore di densità del kernel integrato in 2D

Vengo da questa domanda nel caso qualcuno voglia seguire il sentiero. Fondamentalmente ho un set di dati ΩΩ\Omega composto da NNN oggetti in cui ogni oggetto ha un determinato numero di valori misurati collegati (due in questo caso): Ω=o1[x1,y1],o2[x2,y2],...,oN[xN,yN]Ω=o1[x1,y1],o2[x2,y2],...,oN[xN,yN]\Omega = o_1[x_1, y_1], o_2[x_2, y_2], ..., o_N[x_N, y_N] Ho bisogno di …

12 probability maximum-likelihood kernel-smoothing numerical-integration

6

Se usi una stima puntuale che massimizza

Se qualcuno ha detto "Questo metodo utilizza il MLE la stima puntuale per il parametro che massimizza , quindi è frequentista; e inoltre non è bayesiano."P ( x | θ )P(x|θ)\mathrm{P}(x|\theta) sei d'accordo? Aggiornamento sullo sfondo : di recente ho letto un documento che afferma di essere frequentatore. Non sono …

12 bayesian maximum-likelihood likelihood frequentist philosophical

Domande taggate «maximum-likelihood»