Statistiche e Big Data regression

4

I valori tipici di AIC che ho visto per i modelli logistici sono in migliaia, almeno in centinaia. ad es. su http://www.r-bloggers.com/how-to-perform-a-logistic-regression-in-r/ l'AIC è 727.39 Mentre si dice sempre che l'AIC dovrebbe essere usato solo per confrontare i modelli, ho voluto capire cosa significa un determinato valore AIC. Secondo la …

9 regression model-selection aic accuracy

1

I contorni

Presumo una configurazione generale di regressione, ovvero una funzione continua hθ:X→Rnhθ:X→Rnh_\theta:X\to \mathbb R^n viene scelta da una famiglia {hθ}θ{hθ}θ\{h_\theta\}_\theta per adattarsi ai dati dati (xi,yi)∈X×Rn,i=1,…,k(xi,yi)∈X×Rn,i=1,…,k(x_i,y_i)\in X\times \mathbb R^n, i=1,\ldots, k ( XXX può essere qualsiasi spazio come cubo [0,1]m[0,1]m[0,1]^m in effetti qualsiasi spazio topologico ragionevole) secondo alcuni criteri naturali. Esistono …

9 regression machine-learning multiple-regression

1

Selezione del modello originale (?) Con CV piega a k

Quando utilizzo CV di k-fold per selezionare tra i modelli di regressione, di solito computo l'errore CV separatamente per ciascun modello, insieme al suo errore standard SE, e seleziono il modello più semplice entro 1 SE dal modello con l'errore CV più basso (il 1 regola di errore standard, vedere …

9 regression cross-validation model-selection

1

Regressione lineare con errori di Laplace

Considera un modello di regressione lineare: dove , ovvero , La distribuzione di Laplace con media e parametro di scala , sono tutti reciprocamente indipendenti. Considera una stima della massima probabilità di parametro sconosciuto : da cui ε i ∼ L ( 0 , b ) 0 b β - …

9 regression laplace-distribution

3

Cos'è questo compromesso di bias varianza per i coefficienti di regressione e come derivarlo?

In questo documento , ( Bayesian Inference for Variance Components Using Only Error Contrasts , Harville, 1974), l'autore afferma per essere un "noto relazione ", per una regressione lineare dove \ epsilon \ sim \ mathcal {N} (0, H).(y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y-X\beta)'H^{-1}(y-X\beta)=(y-X\hat\beta)'H^{-1}(y-X\hat\beta)+(\beta-\hat\beta)'(X'H^{-1}X)(\beta-\hat\beta)y=Xβ+ϵ,y=Xβ+ϵ,y=X\beta+\epsilon,ϵ∼N(0,H).ϵ∼N(0,H).\epsilon\sim\mathcal{N}(0, H). Come è noto questo? Qual è il modo più semplice …

9 regression regression-coefficients heteroscedasticity bias linear-algebra

1

Perché i coefficienti di regressione lineare e logistica non possono essere stimati usando lo stesso metodo?

Ho letto in un libro di apprendimento automatico che i parametri di regressione lineare possono essere stimati (tra gli altri metodi) mediante discesa del gradiente, mentre i parametri di regressione logistica sono generalmente stimati dalla stima della massima verosimiglianza. È possibile spiegare a un principiante (me) perché abbiamo bisogno di …

9 regression logistic maximum-likelihood

2

Perché la somma dei residui quadrati non aumenta quando si aggiunge una variabile esplicativa?

Nel mio libro di testo econometrico (Introduzione all'Ecetretrica) riguardante OLS, l'autore scrive: "SSR deve cadere quando viene aggiunta un'altra variabile esplicativa". Perchè

9 regression optimization econometrics intuition sums-of-squares

1

Quando i modelli lineari impropri diventano belli in modo robusto?

Domande: I modelli lineari impropri sono usati nella pratica o sono qualche tipo di curiosità descritta di volta in volta nelle riviste scientifiche? In tal caso, in quali settori vengono utilizzati? Ci sono altri esempi di tali modelli? Infine, gli errori standard, i valori , ecc. Presi da OLS per …

9 regression references linear-model robust

1

Come applicare la regressione sui componenti principali per prevedere una variabile di output?

Ho letto le basi dell'analisi dei componenti principali da tutorial1 , link1 e link2 . Ho un set di dati di 100 variabili (inclusa la variabile di output Y), voglio ridurre le variabili a 40 tramite PCA e quindi prevedere la variabile Y utilizzando quelle 40 variabili. Problema 1: dopo …

9 regression pca

1

Come usare anova per il confronto tra due modelli?

Come devo capire il anovarisultato quando si confrontano due modelli? Esempio: Res.Df RSS Df Sum of Sq F Pr(>F) 1 9 54.032 2 7 4.632 2 49.4 37.329 0.0001844 *** La manpage afferma: "Calcola l'analisi delle tabelle di varianza (o devianza) per uno o più oggetti modello adattati". Tuttavia, il …

9 r regression anova

1

Qual è la differenza tra condizionare i regressori e trattarli come fissi?

A volte assumiamo che i regressori siano fissi, cioè non stocastici. Penso che ciò significhi che tutti i nostri predittori, le stime dei parametri ecc. Sono incondizionati, giusto? Potrei anche spingermi così lontano che non sono più variabili casuali? Se d'altra parte accettiamo che la maggior parte dei regressori in …

9 regression inference philosophical conditioning ancillary-statistics

2

I risultati della regressione hanno limite superiore imprevisto

Provo a prevedere un punteggio di equilibrio e ho provato diversi metodi di regressione. Una cosa che ho notato è che i valori previsti sembrano avere una sorta di limite superiore. Cioè, il saldo effettivo è in , ma le mie previsioni sono in cima a circa . Il diagramma …

9 regression distributions data-transformation prediction bounds

3

R serie storiche stagionali

Uso la decomposefunzione Re trovo i 3 componenti delle mie serie storiche mensili (trend, stagionale e casuale). Se tracciamo il grafico o guardo il tavolo, posso vedere chiaramente che le serie storiche sono influenzate dalla stagionalità. Tuttavia, quando regredisco le serie temporali sulle 11 variabili fittizie stagionali, tutti i coefficienti …

9 r regression time-series

1

Quanto è giusto usare la parola "predire" per la regressione (logistica)?

La mia comprensione è che anche la regressione non dà causalità. Può solo dare un'associazione tra la variabile ye le variabili x e possibilmente una direzione. Ho ragione? Ho spesso trovato frasi simili a "x prevede y" anche nella maggior parte dei libri di testo del corso e in varie …

9 regression logistic predictive-models terminology causality

1

odds ratio corretto vs odds ratio

Nell'analisi di regressione multivariata, sembra che le persone utilizzino definizioni diverse di rapporti di probabilità adeguati. Potresti chiarire per me cos'è un OR rettificato e in che modo differisce da un OR non rettificato ? Grazie!

9 regression multivariate-analysis odds-ratio

Domande taggate «regression»