Statistiche e Big Data

3

Per i classificatori lineari, i coefficienti più grandi implicano caratteristiche più importanti?

Sono un ingegnere del software che lavora sull'apprendimento automatico. Secondo la mia comprensione, la regressione lineare (come OLS) e la classificazione lineare (come regressione logistica e SVM) fanno una previsione basata su un prodotto interno tra coefficienti addestrati e variabili caratteristica → x :w⃗ w→\vec{w}X⃗ X→\vec{x} y^= f( w⃗ ⋅ …

15 regression machine-learning classification feature-selection linear-model

1

Somma o media dei gradienti in (mini) gradiente batch decente?

Quando ho implementato il gradiente mini batch decente, ho appena calcolato la media dei gradienti di tutti gli esempi nel batch di training. Tuttavia, ho notato che ora il tasso di apprendimento ottimale è molto più elevato rispetto al gradiente online decente. La mia intuizione è che ciò è dovuto …

15 neural-networks gradient-descent backpropagation

2

Elevata varianza della convalida incrociata con esclusione

Ho letto più volte che la convalida incrociata "Leave-one-out" ha una varianza elevata a causa della grande sovrapposizione delle pieghe di allenamento. Tuttavia, non capisco perché: le prestazioni della convalida incrociata non dovrebbero essere molto stabili (bassa varianza) proprio perché i set di addestramento sono quasi identici? O sto avendo …

15 variance cross-validation bias

2

Comprensione dei calcoli di correlazione della distanza

Per quanto ho capito, la correlazione della distanza è un modo solido e universale per verificare se esiste una relazione tra due variabili numeriche. Ad esempio, se abbiamo un insieme di coppie di numeri: (x1, y1) (x2, y2) ... (xn, yn) possiamo usare la correlazione della distanza per verificare se …

15 correlation independence intuition distance-covariance

3

Un modello per dati non negativi con aggregazione agli zeri (Tweedie GLM, GLM a zero inflazione, ecc.) Può prevedere zeri esatti?

Una distribuzione Tweedie può modellare dati distorti con una massa in punti pari a zero quando il parametro (esponente nella relazione media-varianza) è compreso tra 1 e 2.ppp Allo stesso modo un modello a zero inflazione (sia continuo che discreto) può avere un gran numero di zeri. Ho difficoltà a …

15 r generalized-linear-model prediction zero-inflation tweedie-distribution

2

Qual è la connessione tra la catena Markov e la catena Markov monte carlo

Sto cercando di capire le catene di Markov usando SAS. Capisco che un processo di Markov è uno in cui lo stato futuro dipende solo dallo stato corrente e non dallo stato passato e c'è una matrice di transizione che cattura la probabilità di transizione da uno stato a un …

15 probability simulation mcmc monte-carlo markov-process

2

Quale misura dell'errore di addestramento segnalare per le foreste casuali?

Attualmente sto adattando foreste casuali per un problema di classificazione usando il randomForestpacchetto in R, e non sono sicuro su come segnalare errori di addestramento per questi modelli. Il mio errore di allenamento è vicino allo 0% quando lo calcolo usando le previsioni che ottengo con il comando: predict(model, data=X_train) …

15 r machine-learning classification random-forest overfitting

5

Kernel SVM: Voglio una comprensione intuitiva della mappatura su uno spazio di caratteristiche di dimensione superiore e su come ciò renda possibile la separazione lineare

Sto cercando di capire l'intuizione dietro SVM del kernel. Ora capisco come funziona SVM lineare, per cui viene presa una linea decisionale che divide i dati nel miglior modo possibile. Comprendo anche il principio alla base del porting dei dati in uno spazio di dimensioni superiori e come ciò possa …

15 machine-learning svm kernel-trick

1

significato della differenza tra due conteggi

C'è un modo per determinare se una differenza tra un conteggio di incidenti stradali al momento 1 è significativamente diversa da un conteggio al momento 2? Ho trovato metodi diversi per determinare la differenza tra gruppi di osservazioni in momenti diversi (ad esempio, confrontando le medie di Poisson) ma non …

15 statistical-significance count-data

1

Ho una linea della migliore vestibilità. Ho bisogno di punti dati che non cambieranno la mia linea di adattamento migliore

Sto dando una presentazione sulle linee di adattamento. Ho una semplice funzione lineare, . Sto cercando di ottenere punti di dati sparsi che posso inserire in un diagramma a dispersione che manterrà la mia linea più adatta alla stessa equazione.y=1x+by=1x+by=1x+b Mi piacerebbe imparare questa tecnica in R o Excel, a …

15 r regression least-squares excel

1

E se un'elevata precisione di convalida ma una bassa accuratezza dei test nella ricerca?

Ho una domanda specifica sulla convalida nella ricerca sull'apprendimento automatico. Come sappiamo, il regime di apprendimento automatico chiede ai ricercatori di addestrare i loro modelli sui dati di addestramento, scegliere tra i modelli candidati per set di validazione e riportare l'accuratezza sul set di test. In uno studio molto rigoroso, …

15 machine-learning cross-validation reproducible-research

2

Qual è il significato intuitivo dietro una variabile casuale definita come "reticolo"?

Nella teoria della probabilità, una variabile casuale non negativa viene chiamata reticolo se esiste tale che .XXXd≥0d≥0d \geq 0∑∞n=0P(X=nd)=1∑n=0∞P(X=nd)=1\sum_{n=0}^{\infty}P(X=nd) = 1 Esiste un'interpretazione geometrica del perché questa definizione è chiamata reticolo?

15 probability

2

Jackknife vs. LOOCV

C'è davvero qualche differenza tra il coltellino e lasciare fuori una validazione incrociata? La procedura sembra identica, mi sto perdendo qualcosa?

15 cross-validation jackknife

1

In che modo la CNN evita il problema del gradiente evanescente

Ho letto molto sulle reti neurali convolutive e mi chiedevo come evitare il problema del gradiente in via di estinzione. So che le reti di credenze profonde impilano autocodificatori a livello singolo o altre reti poco profonde pre-addestrate e posso quindi evitare questo problema, ma non so come evitarlo nelle …

15 machine-learning optimization deep-learning gradient-descent

1

C'è una quantità richiesta di varianza acquisita dal PCA per fare analisi successive?

Ho un set di dati con 11 variabili e PCA (ortogonale) è stato fatto per ridurre i dati. Decidere il numero di componenti da mantenere era evidente per me dalle mie conoscenze sull'argomento e sulla trama del ghiaione (vedi sotto) che due componenti principali (PC) erano sufficienti per spiegare i …

15 variance pca