È necessario un algoritmo per calcolare la probabilità relativa che i dati siano campionati da una distribuzione normale o lognormale

Diciamo che hai un insieme di valori e vuoi sapere se è più probabile che siano stati campionati da una distribuzione gaussiana (normale) o campionati da una distribuzione lognormale?

Naturalmente, idealmente sapresti qualcosa sulla popolazione o sulle fonti di errore sperimentale, quindi avresti ulteriori informazioni utili per rispondere alla domanda. Ma qui, supponiamo che abbiamo solo un insieme di numeri e nessun'altra informazione. Quale è più probabile: campionamento da un gaussiano o campionamento da una distribuzione lognormale? Quanto più probabile? Ciò che spero è un algoritmo per selezionare tra i due modelli e, si spera, quantificare la probabilità relativa di ciascuno.

È possibile provare a indovinare meglio il tipo di distribuzione adattando ogni distribuzione (normale o lognormale) ai dati con la massima probabilità, quindi confrontando la probabilità di log in ciascun modello: il modello con la più alta probabilità di log è la soluzione migliore. Ad esempio, in R:

# log likelihood of the data given the parameters (par) for 
# a normal or lognormal distribution
logl <- function(par, x, lognorm=F) {
    if(par[2]<0) { return(-Inf) }
    ifelse(lognorm,
    sum(dlnorm(x,par[1],par[2],log=T)),
    sum(dnorm(x,par[1],par[2],log=T))
    )
}

# estimate parameters of distribution of x by ML 
ml <- function(par, x, ...) {
    optim(par, logl, control=list(fnscale=-1), x=x, ...)
}

# best guess for distribution-type
# use mean,sd of x for starting parameters in ML fit of normal
# use mean,sd of log(x) for starting parameters in ML fit of lognormal
# return name of distribution type with highest log ML
best <- function(x) {
    logl_norm <- ml(c(mean(x), sd(x)), x)$value
        logl_lognorm <- ml(c(mean(log(x)), sd(log(x))), x, lognorm=T)$value
    c("Normal","Lognormal")[which.max(c(logl_norm, logl_lognorm))]
}

Ora genera numeri da una distribuzione normale e adatta una distribuzione normale da ML:

set.seed(1)
x = rnorm(100, 10, 2)
ml(c(10,2), x)

produce:

$par
[1] 10.218083  1.787379

$value
[1] -199.9697
...

Confronta la probabilità logaritmica per l'adattamento ML delle distribuzioni normali e lognormali:

ml(c(10,2), x)$value # -199.9697
    ml(c(2,0.2), x, lognorm=T)$value # -203.1891
best(x) # Normal

Prova con una distribuzione lognormale:

best(rlnorm(100, 2.6, 0.2)) # lognormal

L'assegnazione non sarà perfetta, a seconda di n, media e sd:

> table(replicate(1000, best(rnorm(500, 10, 2))))

Lognormal    Normal 
        6       994 
> table(replicate(1000, best(rlnorm(500, 2.6, 0.2))))

Lognormal    Normal 
      999         1 

$M \in \{ \text{Normal}, \text{Log-normal} \}$$X = \{ x_1, ..., x_N \}$

$$P(M \mid X) \propto P(X \mid M) P(M).$$

La parte difficile è ottenere la probabilità marginale ,

$$P(X \mid M) = \int P(X \mid \theta, M) P(\theta \mid M) \, d\theta.$$

$p(\theta \mid M)$$X$$Y = \{ \log x_1, ..., \log x_N$$Y$$X$,

$$P(X \mid M = \text{Log-Normal}) = P(Y \mid M=\text{Normal}) \cdot \prod_i \left| \frac{1}{x_i} \right|.$$

$P(\theta \mid M)$$P(\sigma^2, \mu \mid M=\text{Normal})$$P(M)$

Esempio:

$P(\mu, \sigma^2 \mid M = \text{Normal})$$m_0 = 0, v_0 = 20, a_0 = 1, b_0 = 100$

Secondo Murphy (2007) (equazione 203), la probabilità marginale della distribuzione normale è quindi data da

$$P(X \mid M = \text{Normal}) = \frac{|v_N|^\frac{1}{2}}{|v_0|^\frac{1}{2}} \frac{b_0^{a_0}}{b_n^{a_N}} \frac{\Gamma(a_N)}{\Gamma(a_0)} \frac{1}{\pi^{N/2}2^N}$$

$a_N, b_N,$$v_N$$P(\mu, \sigma^2 \mid X, M = \text{Normal})$

$$\begin{align} v_N &= 1 / (v_0^{-1} + N), \\ m_N &= \left( v_0^{-1}m_0 + \sum_i x_i \right) / v_N, \\ a_N &= a_0 + \frac{N}{2}, \\ b_N &= b_0 + \frac{1}{2} \left( v_0^{-1}m_0^2 - v_N^{-1}m_N^2 + \sum_i x_i^2 \right). \end{align}$$

Uso gli stessi iperparametri per la distribuzione log-normal,

$$P(X \mid M = \text{Log-normal}) = P(\{\log x_1, ..., \log x_N \} \mid M = \text{Normal}) \cdot \prod_i \left|\frac{1}{x_i}\right|.$$

$0.1$$P(M = \text{Log-normal}) = 0.1$

il posteriore si comporta così:

$N$

Quando si implementano le equazioni, sarebbe una buona idea lavorare con densità di registro anziché densità. Ma per il resto dovrebbe essere piuttosto semplice. Ecco il codice che ho usato per generare i grafici:

https://gist.github.com/lucastheis/6094631

Sembra che tu stia cercando qualcosa di abbastanza pragmatico per aiutare gli analisti che probabilmente non sono statistici professionisti e hanno bisogno di qualcosa che li spinga a fare quelle che dovrebbero essere tecniche esplorative standard come guardare diagrammi qq, diagrammi di densità, ecc.

Nel qual caso, perché non semplicemente fare un test di normalità (Shapiro-Wilk o altro) sui dati originali, e uno sui dati trasformati nel registro, e se il secondo valore p è più alto sollevare un flag per l'analista di considerare l'utilizzo di una trasformazione del registro ? Come bonus, sputa un grafico 2 x 2 del diagramma della linea di densità e del diagramma qqnorm dei dati grezzi e trasformati.

Questo tecnicamente non risponderà alla tua domanda sulla relativa probabilità, ma mi chiedo se sia tutto ciò di cui hai bisogno.