Statistiche e Big Data

1

Qual è la differenza tra una funzione di perdita e una funzione di errore?

Il termine "perdita" è sinonimo di "errore"? C'è una differenza nella definizione? Inoltre, qual è l'origine del termine "perdita"? NB: La funzione di errore menzionata qui non deve essere confusa con un errore normale.

31 loss-functions

4

Perché utilizziamo ReLU nelle reti neurali e come lo usiamo?

Perché utilizziamo unità lineari rettificate (ReLU) con reti neurali? In che modo migliora la rete neurale? Perché diciamo che ReLU è una funzione di attivazione? Softmax non è la funzione di attivazione per le reti neurali? Immagino che usiamo sia ReLU che softmax, in questo modo: neurone 1 con uscita …

31 neural-networks

4

Quale funzione di perdita è corretta per la regressione logistica?

Ho letto di due versioni della funzione di perdita per la regressione logistica, quale di esse è corretta e perché? Da Machine Learning , Zhou ZH (in cinese), con β= ( w , b ) e βTx = wTx + bβ=(w,B) e βTX=wTX+B\beta = (w, b)\text{ and }\beta^Tx=w^Tx +b : …

31 logistic loss-functions

1

Cross-Entropy o Log Likelihood nel livello Output

Ho letto questa pagina: http://neuralnetworksanddeeplearning.com/chap3.html e diceva che lo strato di output sigmoideo con entropia incrociata è abbastanza simile allo strato di output softmax con verosimiglianza logaritmica. cosa succede se utilizzo sigmoid con verosimiglianza log o softmax con entropia incrociata nel livello di output? va bene? perché vedo che c'è …

31 neural-networks maximum-likelihood softmax

2

Sto creando pregiudizi usando sempre lo stesso seme casuale?

In quasi tutto il lavoro di analisi che io abbia mai fatto uso: set.seed(42) È un omaggio a Hitchhiker's Guide to the Galaxy . Ma mi chiedo se sto creando pregiudizi usando sempre lo stesso seme.

31 random-generation

3

Qual è la differenza tra distribuzione predittiva posteriore e posteriore?

Capisco cos'è un posteriore, ma non sono sicuro di cosa significhi quest'ultimo? In che modo i 2 sono diversi? Kevin P Murphy ha indicato nel suo libro di testo, Machine Learning: a Probabilistic Perspective , che si tratta di "uno stato di convinzione interno". Cosa significa veramente? Avevo l'impressione che …

31 posterior definition

7

Metodi statistici per tracciare i dati in modo più efficiente quando sono presenti milioni di punti?

Trovo che R possa richiedere molto tempo per generare grafici quando sono presenti milioni di punti, il che non sorprende dato che i punti vengono tracciati singolarmente. Inoltre, tali trame sono spesso troppo ingombra e densi per essere utili. Molti dei punti si sovrappongono e formano una massa nera e …

31 r data-visualization

3

La probabilità congiunta di 2 eventi indipendenti non dovrebbe essere uguale a zero?

Se la probabilità congiunta è l'intersezione di 2 eventi, allora la probabilità congiunta di 2 eventi indipendenti non dovrebbe essere zero poiché non si intersecano affatto? Non ho capito bene.

30 probability joint-distribution

7

Nell'analisi di regressione, perché chiamiamo variabili indipendenti "indipendenti"?

Voglio dire che alcune di queste variabili sono fortemente correlate tra loro. Come / perché / in quale contesto li definiamo variabili indipendenti ?

30 regression terminology predictor

2

Cosa ha appena imparato la mia rete neurale? Di quali funzionalità si preoccupa e perché?

Una rete neurale apprende le caratteristiche di un set di dati come mezzo per raggiungere qualche obiettivo. Al termine, potremmo voler sapere cosa ha appreso la rete neurale. Quali erano le caratteristiche e perché gliene importava. Qualcuno può dare alcuni riferimenti sul corpo del lavoro che riguarda questo problema?

30 neural-networks deep-learning

3

Utilità di ingegneria delle funzionalità: perché creare nuove funzionalità basate su funzionalità esistenti?

Vedo spesso persone creare nuove funzionalità basate su funzionalità esistenti su un problema di apprendimento automatico. Ad esempio, qui: https://triangleinequality.wordpress.com/2013/09/09/basic-feature-engineering-with-the-titanic-data/ people hanno considerato le dimensioni della famiglia di una persona come una nuova funzionalità, in base sul numero di fratelli, sorelle e genitori, che erano caratteristiche esistenti. Ma che senso …

30 machine-learning feature-engineering

6

Perché il valore atteso si chiama così?

Capisco come otteniamo 3,5 come valore atteso per tirare un dado a 6 facce. Ma intuitivamente, posso aspettarmi che ogni faccia abbia pari probabilità di 1/6. Quindi il valore atteso di tirare un dado non dovrebbe essere uno dei numeri tra 1-6 con uguale probabilità? In altre parole, quando viene …

30 expected-value terminology history

2

Gli intervalli di confidenza al 50% sono stimati in modo più efficace rispetto agli intervalli di confidenza al 95%?

La mia domanda scaturisce da questo commento su un post sul blog di Andrew Gelman in cui sostiene l'uso di intervalli di confidenza al 50% invece di intervalli di confidenza al 95%, sebbene non sulla base del fatto che sono stimati in modo più robusto: Preferisco intervalli dal 50% al …

30 confidence-interval assumptions robust

3

Qual è la causa principale del problema di squilibrio di classe?

Ultimamente ho pensato molto al "problema di squilibrio di classe" nell'apprendimento automatico / statistico e sto attingendo sempre più da un sentimento che non capisco cosa stia succedendo. Prima lasciami definire (o tentare di) definire i miei termini: Il problema dello squilibrio di classe nell'apprendimento automatico / statistico è l'osservazione …

30 classification predictive-models unbalanced-classes scoring-rules

2

Chi per primo ha usato / inventato i valori p?

Sto tentando di scrivere una serie di post sul blog sui valori-p e ho pensato che sarebbe stato interessante tornare a dove tutto ha avuto inizio, che sembra essere il documento di Pearson del 1900. Se hai familiarità con quel documento, ti ricorderai che questo copre i test di bontà …

30 p-value history ronald-fisher