Da dove viene la distribuzione beta?

Come sono sicuro che tutti qui già sanno, il PDF della distribuzione Beta $X \sim B(a,b)$ è dato da

$f(x) = \frac{1}{B(a,b)}x^{a-1}(1-x)^{b-1}$

Ho cercato dappertutto una spiegazione delle origini di questa formula, ma non riesco a trovarla. Ogni articolo che ho trovato sulla distribuzione Beta sembra dare questa formula, illustrarne alcune delle sue forme, quindi continuare a discutere i suoi momenti e continuare da lì.

Non mi piace usare formule matematiche che non posso derivare e spiegare. Per altre distribuzioni (ad esempio la gamma o il binomio) c'è una chiara derivazione che posso imparare e usare. Ma non riesco a trovare nulla del genere per la distribuzione Beta.

Quindi la mia domanda è: quali sono le origini di questa formula? Come può essere derivato dai primi principi in qualunque contesto sia stato originariamente sviluppato?

[Per chiarire, non sto chiedendo come utilizzare la distribuzione Beta nelle statistiche bayesiane, o cosa significhi intuitivamente in pratica (ho letto l'esempio del baseball). Voglio solo sapere come derivare il PDF. C'era una domanda precedente che aveva posto qualcosa di simile, ma era stata contrassegnata (penso in modo errato) come un duplicato di un'altra domanda che non ha risolto il problema, quindi finora non sono stato in grado di trovare alcun aiuto.]

EDIT 2017-05-06: Grazie a tutti per le domande. Penso che una buona spiegazione di ciò che voglio venga da una delle risposte che ho ricevuto quando ho chiesto questo ad alcuni dei miei istruttori del corso:

"Immagino che le persone potrebbero derivare la densità normale come limite di una somma di n cose divisa per sqrt (n), e puoi derivare la densità di poisson dall'idea di eventi che si verificano a un ritmo costante. Allo stesso modo, al fine di derivare il densità beta, dovresti avere una sorta di idea di ciò che rende qualcosa una distribuzione beta indipendentemente e, logicamente, dalla densità ".

Quindi l'idea "ab initio" nei commenti è probabilmente più vicina a ciò che sto cercando. Non sono un matematico, ma mi sento a mio agio nell'usare la matematica che posso derivare. Se le origini sono troppo avanzate per essere gestite, così sia, ma in caso contrario mi piacerebbe capirle.

Come ex fisico posso vedere come avrebbe potuto essere derivato. Ecco come procedono i fisici:

quando incontrano un integrale finito di una funzione positiva, come la funzione beta : istintivamente definiscono una densità: f ( s | x , y ) = s x - 1 ( 1 - s ) y -

$$B(x,y) = \int_0^1t^{x-1}(1-t)^{y-1}\,dt$$ dove0<s< $$f(s|x,y)=\frac{s^{x-1}(1-s)^{y-1}}{\int_0^1t^{x-1}(1-t)^{y-1}\,dt}=\frac{s^{x-1}(1-s)^{y-1}}{B(x,y)},$$ $0<s<1$

Lo fanno a tutti i tipi di integrali tutto il tempo così spesso che accade in modo riflessivo senza nemmeno pensare. Chiamano questa procedura "normalizzazione" o nomi simili. Nota come per definizione banalmente la densità abbia tutte le proprietà che vuoi che abbia, come sempre positive e ne sommano una.

La densità che ho dato sopra è di distribuzione Beta.$f(t)$

AGGIORNARE

@ whuber sta chiedendo cosa c'è di così speciale nella distribuzione Beta mentre la logica sopra potrebbe essere applicata a un numero infinito di integrali adatti (come ho notato nella mia risposta sopra)?

La parte speciale proviene dalla distribuzione binomiale . Scriverò il suo PDF usando una notazione simile alla mia beta, non la solita notazione per parametri e variabili:

$$f'(x,y|s) = \binom {y+x} x s^x(1-s)^{y}$$

Qui, - numero di successi e fallimenti e s - probabilità di successo. Puoi vedere come questo è molto simile al numeratore nella distribuzione Beta. In effetti, se cerchi il precedente per la distribuzione binomiale, sarà la distribuzione beta. Non è sorprendente anche perché il dominio del Beta è 0-1, e questo è ciò che si fa nel teorema di Bayes: integrare il parametro di s , che è la probabilità di successo in questo caso, come illustrato di seguito: f ( x | X ) = f ′ ( X | s ) f ( s $x,y$$s$$s$ quif(s)- probabilità (densità) di probabilità di successo date le precedenti impostazioni della distribuzione Beta, ef′(X|s)- densità di questo insieme di dati (ad esempio il successo osservato e insuccessi) una probabilitàs.

$$\hat f(x|X)=\frac{f'(X|s)f(s)}{\int_0^1 f'(X|s)f(s)ds},$$ $f(s)$$f'(X|s)$$s$

$-$$B(a,b)$$-$menziona Wallis (1616-1703), Newton (1642-1726) e Stirling (1692-1770) che trattano casi speciali dell'integrale anche prima. Karl Pearson (1895) prima catalogato questa famiglia di distribuzioni come Pearson di tipo I .

$F(p,q)$

$$\varrho=\hat\sigma^2_1\big/\hat\sigma_2^2\qquad p\hat\sigma_1^2\sim\chi^2_p\quad q\hat\sigma_1^2\sim\chi^2_q$$ $$\frac{p\varrho}{q+p\varrho}\sim B(p/2,q/2)$$ $\omega\sim B(a,b)$ $$\dfrac{\omega/a}{(1-\omega)/b}\sim F(2a,2b)$$ $B(a,b)$$F(p,q)$ $$f_{p,q}(x) \propto \{px/q\}^{p/2-1}(1+px/q)^{-(p+q)/2}$$ $$y=\frac{\{px/q\}}{\{1+px/q\}}\quad y\in(0,1)$$ $$x=\frac{qy}{p(1-y)}$$ $$\frac{\text{d}x}{\text{d}y}=\frac{q}{p(1-y)}+\frac{qy}{p(1-y)^2}=\frac{p}{q(1-y)^2}$$ $$g(y)\propto y^{p/2-1}(1-y)^{q/2+1}(1-y)^{-2}=y^{p/2-1}(1-y)^{q/2+1}$$ [dove tutte le costanti di normalizzazione sono ottenute imponendo che la densità si integri con una.

Prima di tutto, non sono bravo a descrivere matematicamente precisi concetti nella mia testa, ma farò del mio meglio usando un semplice esempio:

Immagina di avere un arco, molte frecce e un bersaglio. Supponiamo inoltre che il tuo tasso di successo$\lambda$ (per colpire il bersaglio) è precisamente una funzione della distanza dal centro del bersaglio e della forma seguente

$$\begin{eqnarray} \lambda=g(x)=\lambda_{max}-(q|x-x_0|)^\frac{1}{q},~q > 0,~0 \leq \lambda \leq \lambda_{max} \end{eqnarray}$$ where x is the distance to the center of the target ($x_0$). For $q=1/2$ this would be a first order approximation of a Gaussian. That would mean that you most frequently hit the bull-eye. Similarly, it approximates any bell-shaped curve, for example, resulting from diffusion of Brownian particles.

Now, let is furthermore assume that somebody really brave/stupid tries to trick you and displaces the target on every shot. Thereby we make $x_0$ itself to be a random variable. If the distribution of that person's movements can be described by a (p-1)-power of $g(x)$ (that is $P(x_0) = C\cdot g(x)^{p-1})$), a simple transformation of random variables (remember $P(\lambda)d\lambda=P(x_0)dx_0$) leads to a Beta distributed $\lambda$:

$$\begin{eqnarray}P(\lambda) = P(g^{-1}(\lambda)) \biggl|\frac{dg^{-1}(\lambda)}{d\lambda}\biggl| = C' \cdot \lambda^{p-1} \cdot (\lambda_{max} - \lambda)^{q-1}\end{eqnarray}$$

where the normalization constant $C'$ is the beta function. For the standard parametrization of the beta distribution we would set $\lambda_{max} = 1$.

In other words the beta distribution can be seen as the distribution of probabilities in the center of a jittered distribution.

I hope that this derivation gets somewhat close to what your instructor meant. Note that the functional forms of $g(x)$ and $P(x_0)$ are very flexible and reach from triangle like distributions and U-shaped distributions (see example below) to sharply peaked distributions.

FYI: I discovered this as a side effect in my doctoral work and reported about it in my thesis in the context of non-stationary neural tuning curves leading to zero-inflated spike count distributions (bimodal with a mode at zero). Applying the concept described above yielded the Beta-Poisson mixture distribution for the neural acticity. That distribution can be fit to data. The fitted parameters allow to estimate both, the distribution $g(x)$ as well as the jitter distribution $p(x_0)$ by applying the reverse logics. The Beta-Poisson mixture is a very interesting and flexible alternative to the widely used negative binomial distribution (which is a Gamma-Poisson mixture) to model overdispersion. Below you find an example the "Jitter $\rightarrow$ Beta" - idea in action:

A: Simulated 1D trial displacement, drawn from the jitter distribution in the inset ($P(jitter)\propto g(x)^{p-1}$). The trial-averaged firing field (solid black line) is broader and has a lower peak rate as compared to the underlying tuning curve without jitter (solid blue line, parameters used: $\lambda_{max} = 10, p = .6, q=.5$. B: The resulting distribution of $\lambda$ at $x_0$ across N=100 trials and the analytical pdf of the Beta distribution. C: Simulated spike count distribution from a Poisson process with parameters $\lambda_i$ where i denote the indices of the trials and the resulting Beta-Poisson distribution as derived as sketched above. D: Analogous situation in 2D with random shift angles leading to the identical statistics.