Statistiche e Big Data

2

Quali sono le differenze tra la funzione logistica e la funzione sigmoide?

Fig 1. Funzione logistica Fig 2. Funzione sigmoide è più simile al tipo generalizzato di funzione sigmoide in cui potresti avere un valore massimo più alto?

16 logistic

3

Quando funziona la massima probabilità e quando no?

Sono confuso riguardo al metodo della massima verosimiglianza rispetto ad esempio al calcolo della media aritmetica. Quando e perché la massima verosimiglianza produce stime "migliori" rispetto alla media aritmetica? Come è verificabile?

16 maximum-likelihood

3

Analisi discriminanti vs regressione logistica

Ho trovato alcuni professionisti dell'analisi discriminante e ho delle domande a riguardo. Così: Quando le classi sono ben separate, le stime dei parametri per la regressione logistica sono sorprendentemente instabili. I coefficienti possono andare all'infinito. LDA non soffre di questo problema. Se il numero di funzioni è piccolo e la …

16 regression logistic multivariate-analysis discriminant-analysis

2

Qual è la differenza tra stima della massima verosimiglianza e discesa del gradiente?

Quali sono i pro e i contro di entrambi i metodi?

16 maximum-likelihood predictive-models optimization gradient-descent

2

La linearità della varianza

Penso che le seguenti due formule siano vere: V a r (aX) = a2V a r (X)Vun'r(un'X)=un'2Vun'r(X) \mathrm{Var}(aX)=a^2 \mathrm{Var}(X) mentre a è un numero costante Var(X+Y)=Var(X)+Var(Y)Vun'r(X+Y)=Vun'r(X)+Vun'r(Y) \mathrm{Var}(X + Y)=\mathrm{Var}(X)+\mathrm{Var}(Y) seXXX ,YYY sono indipendenti Tuttavia, non sono sicuro di cosa non vada di seguito: Var(2X)=Var(X+X)=Var(X)+Var(X)Vun'r(2X)=Vun'r(X+X)=Vun'r(X)+Vun'r(X)\mathrm{Var}(2X) = \mathrm{Var}(X+X) = \mathrm{Var}(X) + \mathrm{Var}(X) …

16 variance linearity fallacy

1

Nella teoria dell'apprendimento statistico, non c'è un problema di overfitting su un set di test?

Consideriamo il problema relativo alla classificazione del set di dati MNIST. Secondo la pagina MNIST di Yann LeCun , "Ciresan et al." ha ottenuto un tasso di errore dello 0,23% sul set di test MNIST utilizzando la rete neurale convoluzionale. Indichiamo l'allenamento MNIST impostato come , il test MNIST impostato …

16 machine-learning classification overfitting probability-inequalities

1

Pacchetto R per Foresta casuale ponderata? opzione classwt?

Sto cercando di utilizzare Random Forest per prevedere il risultato di un set di dati estremamente squilibrato (il tasso di classe di minoranza è solo dell'1% o anche meno). Poiché l'algoritmo tradizionale Foresta casuale riduce al minimo il tasso di errore complessivo, anziché prestare particolare attenzione alle classi di minoranza, …

16 r random-forest

3

Che cos'è esattamente una distribuzione?

Conosco pochissime probabilità e statistiche e desidero imparare. Vedo la parola "distribuzione" usata in tutto il luogo in contesti diversi. Ad esempio, una variabile casuale discreta ha una "distribuzione di probabilità". So di cosa si tratta. Una variabile casuale continua ha una funzione di densità di probabilità, quindi per x∈Rx∈Rx\in\mathbb{R} …

16 distributions definition

2

Test post-hoc per test di bontà di adattamento chi-quadro

Sto conducendo un test di chi-quadrato di bontà di adattamento (GOF) con tre categorie e in particolare voglio verificare che le proporzioni della popolazione in ciascuna categoria siano uguali (ovvero, la proporzione è 1/3 in ciascun gruppo): DATI OSSERVATI Gruppo 1 Gruppo 2 Gruppo 3 Totale 686 928 1012 2626 …

16 hypothesis-testing chi-squared goodness-of-fit post-hoc

3

Perché una statistica sufficiente contiene tutte le informazioni necessarie per calcolare qualsiasi stima del parametro?

Ho appena iniziato a studiare le statistiche e non riesco ad avere una comprensione intuitiva della sufficienza. Per essere più precisi, non riesco a capire come dimostrare che i seguenti due paragrafi sono equivalenti: All'incirca, dato un insieme X di dati indipendenti identicamente distribuiti condizionati su un parametro sconosciuto θ, …

16 sufficient-statistics

1

Perché il "lazo rilassato" è diverso dal lazo standard?

Se iniziamo con un set di dati , applichiamo Lasso ad esso e otteniamo una soluzione β L , possiamo applicare nuovamente Lasso al set di dati ( X S , Y ) , dove S è l'insieme diverso da zero indici di β L , per ottenere una soluzione, …

16 regression optimization lasso regularization shrinkage

2

Perché GLM è diverso da un LM con variabile trasformata

Come spiegato in questo volantino del corso (pagina 1) , un modello lineare può essere scritto nel modulo: y=β1x1+⋯+βpxp+εi,y=β1x1+⋯+βpxp+εi, y = \beta_1 x_{1} + \cdots + \beta_p x_{p} + \varepsilon_i, dove yyy è la variabile di risposta e xixix_{i} è l' ithithi^{th} variabile esplicativa . Spesso con l'obiettivo di soddisfare …

16 regression generalized-linear-model data-transformation linear-model

1

Qual è l'intervallo tipico di possibili valori per il parametro di restringimento nella regressione penalizzata?

Nella regressione del lazo o della cresta, è necessario specificare un parametro di restringimento, spesso chiamato da o . Questo valore viene spesso scelto tramite validazione incrociata controllando un sacco di valori diversi sui dati di allenamento e vedendo quale produce il migliore, ad es. sui dati di test. Qual …

16 regression lasso regularization ridge-regression penalized

2

Stimare i coefficienti ARMA attraverso l'ispezione ACF e PACF

Come stimare il modello di previsione appropriato per una serie temporale mediante ispezione visiva dei grafici ACF e PACF? Quale (cioè ACF o PACF) dice all'AR o all'MA (o entrambi)? Quale parte dei grafici indica la parte stagionale e non stagionale di un ARIMA stagionale? Considerare le funzioni ACF e …

16 r time-series forecasting acf-pacf

1

La probabilità di log in GLM ha garantito la convergenza ai massimi globali?

Le mie domande sono: I modelli lineari generalizzati (GLM) sono garantiti per convergere ad un massimo globale? Se è così, perché? Inoltre, quali sono i vincoli sulla funzione di collegamento per assicurare la convessità? La mia comprensione dei GLM è che massimizzano una funzione di probabilità altamente non lineare. Immagino …

16 generalized-linear-model optimization convergence exponential-family