Statistiche e Big Data

Domande e risposte per le persone interessate alle statistiche, all'apprendimento automatico, all'analisi dei dati, al data mining e alla visualizzazione dei dati



3
Come discutere un diagramma a dispersione con più linee emergenti?
Abbiamo misurato due variabili e il grafico a dispersione sembra suggerire più modelli "lineari". C'è un modo per provare a distillare quei modelli? L'identificazione di altre variabili indipendenti si è rivelata difficile. Entrambe le variabili sono fortemente inclinate a sinistra (verso i piccoli numeri), questa è una distribuzione prevista nel …




1
Approssimazione del secondo ordine della funzione di perdita (Deep learning book, 7.33)
Nel libro di Goodfellow (2016) sull'apprendimento profondo, ha parlato dell'equivalenza dell'arresto anticipato alla regolarizzazione L2 ( https://www.deeplearningbook.org/contents/regularization.html pagina 247). Approssimazione quadratica della funzione di costo è data da:jjj J^(θ)=J(w∗)+12(w−w∗)TH(w−w∗)J^(θ)=J(w∗)+12(w−w∗)TH(w−w∗)\hat{J}(\theta)=J(w^*)+\frac{1}{2}(w-w^*)^TH(w-w^*) dove è la matrice hessiana (Eq. 7.33). Manca questo a medio termine? L'espansione di Taylor dovrebbe essere: HHHf(w+ϵ)=f(w)+f′(w)⋅ϵ+12f′′(w)⋅ϵ2f(w+ϵ)=f(w)+f′(w)⋅ϵ+12f″(w)⋅ϵ2f(w+\epsilon)=f(w)+f'(w)\cdot\epsilon+\frac{1}{2}f''(w)\cdot\epsilon^2



2
I parametri di massima verosimiglianza si discostano dalle distribuzioni posteriori
Ho una funzione di verosimiglianza per la probabilità dei miei dati dati alcuni parametri del modello , che vorrei stimare. Assumendo priori piatti sui parametri, la probabilità è proporzionale alla probabilità posteriore. Uso un metodo MCMC per provare questa probabilità.L (d| θ)L(d|θ)\mathcal{L}(d | \theta)dddθ ∈ RNθ∈RN\theta \in \mathbf{R}^N Osservando la …


2
Perché i modelli di "errore in X" non sono più utilizzati?
Quando si calcola l'errore standard di un coefficiente di regressione, che non tengono conto per la casualità nella matrice di progettazione . In OLS ad esempio, calcoliamo comeXXXvar ( β^)var(β^)\text{var}(\hat{\beta})var ( ( XTX)- 1XTY) = σ2( XTX)- 1var((XTX)-1XTY)=σ2(XTX)-1\text{var}((X^TX)^{-1}X^TY) = \sigma^2(X^TX)^{-1} Se l' sono stati considerati casuale, la legge della varianza …


2
Esistono test statistici "esoterici" a bassissima potenza?
sfondo In informatica, matematica e talvolta in altri campi, esempi "esoterici" non possono solo essere divertenti, ma utili per illustrare alcuni concetti, ad esempio: Bogosort e Slowsort sono algoritmi di ordinamento molto inefficienti che possono essere utilizzati per comprendere le proprietà degli algoritmi, in particolare se confrontati con altri algoritmi …


Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.