Statistiche e Big Data

Sappiamo tutti che i generatori di numeri casuali nei computer non generano veri numeri casuali, ma generano invece numeri pseudo-casuali. Inoltre, alcuni RNG sono migliori di altri e alcuni sono implementati meglio di altri. Quali sono alcuni esempi di quando è stato utilizzato un RNG scadente o un RNG mal …

9 random-generation  history 

Capisco come funziona la convoluzione ma non capisco come le convoluzioni 1D vengano applicate ai dati 2D. In questo esempio puoi vedere una convoluzione 2D in un dato 2D. Ma come sarebbe se fosse una convoluzione 1D? Solo un kernel 1D che scorre allo stesso modo? E se il passo …

9 conv-neural-network 

È noto che l'indipendenza delle variabili casuali implica una correlazione zero, ma la correlazione zero non implica necessariamente l'indipendenza. Mi sono imbattuto in molti esempi matematici che dimostrano dipendenza nonostante zero correlazione. Ci sono esempi di vita reale a supporto di questo fatto?

9 correlation  independence  intuition 

Il problema è: Deriva il gradiente rispetto allo strato di input per una singola rete neurale a strato nascosto usando sigmoid per input -> nascosto, softmax per nascosto -> output, con una perdita di entropia incrociata. Posso superare gran parte della derivazione usando la regola della catena, ma non sono …

9 neural-networks  gradient 

Come posso assegnare più peso alle osservazioni più recenti in R? Presumo che sia una domanda o un desiderio comune, ma ho difficoltà a capire esattamente come implementarlo. Ho provato a cercare molto per questo, ma non riesco a trovare un buon esempio pratico. Nel mio esempio avrei un set …

9 r  time-series  regression  random-forest 

Nei modelli di serie storiche, come ARMA-GARCH, per selezionare il ritardo o l'ordine appropriato del modello vengono utilizzati diversi criteri di informazione, come AIC, BIC, SIC ecc. La mia domanda è molto semplice, perché non usiamo l' modificato R2R2R^2per scegliere il modello appropriato? Possiamo selezionare il modello che porta a …

9 regression  time-series  model-selection  aic  bic 

Usando R su alcuni dati e cercando di vedere se i miei dati sono eteroscedastici, ho trovato due implementazioni del test Breusch-Pagan, bptest (pacchetto lmtest) e ncvTest (pacchetto auto). Tuttavia, questi producono risultati diversi. Qual è la differenza tra i due? Quando dovresti scegliere di usare l'uno o l'altro? > …

9 r  regression  heteroscedasticity  assumptions  breusch-pagan 

Supponiamo di avere la matrice di dati , che è -by- , e il vettore dell'etichetta , che è -by-one. Qui, ogni riga della matrice è un'osservazione e ogni colonna corrisponde a una dimensione / variabile. (assume )XX\mathbf{X}p Y n n > pnnnpppYYYnnnn>pn>pn>p Allora che cosa fare data space, variable …

9 regression  multiple-regression  terminology  geometry  biplot 

Secondo "Efficient Backprop" di LeCun et al (1998) è buona norma normalizzare tutti gli input in modo che siano centrati attorno a 0 e rientrino nell'intervallo della seconda derivata massima. Quindi, per esempio, useremmo [-0.5,0.5] per la funzione "Tanh". Questo per aiutare il progresso della retro-propagazione man mano che l'Assia …

9 machine-learning  neural-networks  normalization  deep-learning  multidimensional-scaling 

Come posso trovare un'espressione analitica nel seguente problema?D ( n , l , L )D(n,l,L)D(n,l,L) Lascio cadere casualmente "barre" di lunghezza l in un intervallo [ 0 , L ] . Le "barre" possono sovrapporsi. Vorrei trovare la lunghezza totale media D dell'intervallo [ 0 , L ] occupata da …

9 probability  distributions 

Mentre mi piace pensare di avere una buona conoscenza del concetto di informazione precedente nell'analisi statistica bayesiana e nel processo decisionale, spesso ho difficoltà a avvolgere la testa attorno alla sua applicazione. Ho in mente un paio di situazioni che esemplificano le mie lotte e sento che non sono state …

9 bayesian  prior  rule-of-thumb  elicitation 

I valori tipici di AIC che ho visto per i modelli logistici sono in migliaia, almeno in centinaia. ad es. su http://www.r-bloggers.com/how-to-perform-a-logistic-regression-in-r/ l'AIC è 727.39 Mentre si dice sempre che l'AIC dovrebbe essere usato solo per confrontare i modelli, ho voluto capire cosa significa un determinato valore AIC. Secondo la …

9 regression  model-selection  aic  accuracy 

Ho faticato parecchio a conciliare la mia comprensione intuitiva delle distribuzioni di probabilità con le strane proprietà che possiedono quasi tutte le topologie sulle distribuzioni di probabilità. Ad esempio, considera una variabile casuale mista : scegli un gaussiano centrato su 0 con varianza 1 e con probabilità , aggiungi al …

9 mathematical-statistics  convergence  central-limit-theorem  topologies 

Assumi la seguente sequenza 1 dimensionale: A, B, C, Z, B, B, #, C, C, C, V, $, W, A, % ... Le lettere A, B, C, ..qui rappresentano eventi "ordinari". I simboli #, $, %, ...qui rappresentano eventi "speciali" La spaziatura temporale tra tutti gli eventi è non uniforme …

9 time-series  deep-learning  rare-events  lstm  sequential-pattern-mining 

Supponiamo che le variabili casuali e siano indipendenti e distribuite da . Mostra che ha un \ text {Exp} (1) distribuzione.X1,...,XnX1,...,XnX_1, ... , X_nY1,...,YnY1,...,YnY_1, ..., Y_nU(0,a)U(0,a)U(0,a)Zn=nlogmax(Y(n),X(n))min(Y(n),X(n))Zn=nlog⁡max(Y(n),X(n))min(Y(n),X(n))Z_n= n\log\frac{\max(Y_{(n)},X_{(n)})}{\min(Y_{(n)},X_{(n)})}Exp(1)Exp(1)\text{Exp}(1) Ho iniziato questo problema impostando {X1,...,Xn,Y1,...Yn}={Z1,...,Zn}{X1,...,Xn,Y1,...Yn}={Z1,...,Zn}\{X_1,...,X_n,Y_1,...Y_n\} = \{Z_1,...,Z_n\} Quindi il max(Yn,Xn)=Z(2n)max(Yn,Xn)=Z(2n)\max(Y_n,X_n)= Z_{(2n)} verrebbe distribuito come (za)2n(za)2n(\frac{z}{a})^{2n} e min(Yn,Xn)=Z(1)min(Yn,Xn)=Z(1)\min(Y_n,X_n)= Z_{(1)} verrebbe distribuito come 1−(1−za)2n1−(1−za)2n1 …

9 self-study  data-transformation  order-statistics