Differenza tra intervalli di confidenza e intervalli di previsione

Per un intervallo di previsione nella regressione lineare, usi ancora per generare l'intervallo. Puoi anche usarlo per generare un intervallo di confidenza di . Qual è la differenza tra i due?E[Y| x0$\hat{E}[Y|x] = \hat{\beta_0}+\hat{\beta}_{1}x$$E[Y|x_0]$

La tua domanda non è del tutto corretta. Un intervallo di confidenza fornisce un intervallo per , come dici tu. Un intervallo di previsione fornisce un intervallo per stesso. Naturalmente, la nostra ipotesi migliore per è , quindi gli intervalli saranno entrambi centrati sullo stesso valore, .y y E [ y | x ] x $\text{E}[y \mid x]$$y$$y$$\text{E}[y \mid x]$$x\hat{\beta}$

Come dice @Greg, gli errori standard saranno diversi --- supponiamo che il valore atteso di più preciso di quanto stimiamo stesso. La stima di richiede l'inclusione della varianza che deriva dal vero termine di errore.y $\text{E}[y \mid x]$$y$$y$

Per illustrare la differenza, immagina di poter ottenere stime perfette dei nostri coefficienti . Quindi, la nostra stima di sarebbe perfetta. Ma non saremmo ancora sicuri di cosa fossi perché c'è un vero termine di errore che dobbiamo considerare. Il nostro "intervallo" di confidenza sarebbe solo un punto perché stimiamo esattamente giusto, ma il nostro intervallo di previsione sarebbe più ampio perché prendiamo in considerazione il vero termine di errore.E [ y ∣ x ] y E [ y ∣ x $\beta$$\text{E}[y \mid x]$$y$$\text{E}[y \mid x]$

Pertanto, un intervallo di previsione sarà più ampio di un intervallo di confidenza.

La differenza tra un intervallo di previsione e un intervallo di confidenza è l'errore standard.

L'errore standard per un intervallo di confidenza sulla media tiene conto dell'incertezza dovuta al campionamento. La linea che hai calcolato dal tuo campione sarà diversa dalla linea che sarebbe stata calcolata se avessi l'intera popolazione, l'errore standard tiene conto di questa incertezza.

L'errore standard per un intervallo di previsione su un'osservazione individuale tiene conto dell'incertezza dovuta al campionamento come sopra, ma tiene conto anche della variabilità degli individui attorno alla media prevista. L'errore standard per l'intervallo di previsione sarà più ampio che per l'intervallo di confidenza e quindi l'intervallo di previsione sarà più ampio dell'intervallo di confidenza.

Ho trovato utile la seguente spiegazione:

Gli intervalli di confidenza indicano quanto bene hai determinato la media. Supponiamo che i dati vengano realmente campionati casualmente da una distribuzione gaussiana. Se lo fai molte volte e calcoli un intervallo di confidenza della media da ciascun campione, ti aspetteresti che circa il 95% di quegli intervalli includa il valore reale della media della popolazione. Il punto chiave è che l'intervallo di confidenza indica la posizione probabile del parametro di popolazione reale.

Gli intervalli di previsione indicano dove è possibile prevedere il campionamento del punto dati successivo. Supponiamo che i dati vengano realmente campionati casualmente da una distribuzione gaussiana. Raccogliere un campione di dati e calcolare un intervallo di previsione. Quindi assaggia un altro valore dalla popolazione. Se lo fai molte volte, ti aspetteresti che il valore successivo rientri nell'intervallo di predizione nel 95% dei campioni. Il punto chiave è che l'intervallo di predizione ti dice sulla distribuzione dei valori, non sull'incertezza nel determinare la popolazione significare.

Gli intervalli di previsione devono tenere conto sia dell'incertezza nel conoscere il valore della media della popolazione, sia della diffusione dei dati. Quindi un intervallo di previsione è sempre più ampio di un intervallo di confidenza.

Fonte: http://www.graphpad.com/support/faqid/1506/

Uno è una previsione di un'osservazione futura e l'altro è una risposta media prevista. Darò una risposta più dettagliata per spiegare, si spera, la differenza e da dove proviene, oltre a come questa differenza si manifesta a intervalli più ampi per la previsione che per la fiducia.

Questo esempio potrebbe illustrare la differenza tra intervalli di confidenza e di previsione: supponiamo di avere un modello di regressione che prevede il prezzo delle case in base al numero di camere da letto, dimensioni, ecc. Esistono due tipi di previsioni che possiamo fare per un dato :$x_0$

1. Possiamo prevedere il prezzo per una nuova casa specifica che viene sul mercato con le caratteristiche ( "qual è il prezzo previsto per questa casa ?" ). Il suo vero prezzo sarà . Poiché , il prezzo previsto sarà Nel valutare la varianza di questa previsione, dobbiamo includere la nostra incertezza su , così come la nostra incertezza sulla nostra previsione (l'errore della nostra previsione) e quindi deve includere la varianza di (l'errore della nostra previsione). Questo è tipicamente chiamato previsione di un valore futuro .$x_0$$x_0$

   $$y = x_0^T\beta+\epsilon$$ $E(\epsilon)=0$ $$\hat{y} = x_0^T\hat{\beta}$$ $\hat{\beta}$$\epsilon$

2. Possiamo anche prevedere il prezzo medio di una casa con caratteristiche ( "quale sarebbe il prezzo medio per una casa con caratteristiche ?" ). La stima puntuale è ancora , ma ora è necessario tenere conto solo della varianza in . Questo è in genere chiamato previsione della risposta media.$x_0$$x_0$

   $$\hat{y} = x_0^T\hat{\beta}$$ $\hat{\beta}$

La maggior parte delle volte, quello che vogliamo veramente è il primo caso. Sappiamo che

Questa è la varianza per la nostra risposta media (caso 2). Ma, per una previsione di una futura osservazione (caso 1), ricordiamo che abbiamo bisogno della varianza di ; ha varianza e si presume che sia indipendente da . Usando una semplice algebra, si ottengono i seguenti intervalli di confidenza:$x_0^T\hat{\beta} + \epsilon$$\epsilon$$\sigma^2$$\hat{\beta}$

1. CI per una singola risposta futura per :$x_0$

   $$\hat{y}_0\pm t_{n-p}^{(\alpha/2)}\hat{\sigma}\sqrt{x_0^T(X^TX)^{-1}x_0 + 1}$$

2. CI per la risposta media dato :$x_0$

   $$\hat{y}_0\pm t_{n-p}^{(\alpha/2)}\hat{\sigma}\sqrt{x_0^T(X^TX)^{-1}x_0}$$

Dove è una statistica t con gradi di libertà al quantile . n - p α /$t_{n-p}^{\alpha/2}$$n-p$$\alpha/2$

Spero che ciò renda un po 'più chiaro il motivo per cui l'intervallo di previsione è sempre più ampio e quale sia la differenza sottostante tra i due intervalli. Questo esempio è stato adattato da Faraway, Linear Models con R, Sec. 4.1.

Risposta breve:

Un intervallo di previsione è un intervallo associato a una variabile casuale ancora da osservare (previsione).

Un intervallo di confidenza è un intervallo associato a un parametro ed è un concetto frequentista.

Controlla la risposta completa qui da Rob Hyndman, il creatore del pacchetto di previsioni in R.

Questa risposta è per quei lettori che non sono stati in grado di comprendere appieno le risposte precedenti. Discutiamo un esempio specifico. Supponiamo che tu provi a prevedere il peso delle persone in base alla loro altezza, sesso (maschio, femmina) e dieta (standard, a basso contenuto di carboidrati, vegetariano). Attualmente, ci sono più di 8 miliardi di persone sulla Terra. Certo, puoi trovare molte migliaia di persone che hanno la stessa altezza e altri due parametri ma peso diverso. I loro pesi differiscono selvaggiamente perché alcuni di loro hanno l'obesità e altri possono soffrire di fame. La maggior parte di quelle persone saranno da qualche parte nel mezzo.

Un compito è prevedere il peso medio di tutte le persone che hanno gli stessi valori di tutte e tre le variabili esplicative. Qui usiamo l'intervallo di confidenza. Un altro problema è prevedere il peso di una persona specifica. E non conosciamo le circostanze di vita di quell'individuo. Qui è necessario utilizzare l'intervallo di previsione. È centrato attorno allo stesso punto, ma deve essere molto più ampio dell'intervallo di confidenza.