MLE per la distribuzione triangolare?

È possibile applicare la normale procedura MLE alla distribuzione triangolare? - Ci sto provando ma mi sembra di essere bloccato in un passo o nell'altro in matematica dal modo in cui è definita la distribuzione. Sto cercando di usare il fatto che conosco il numero di campioni sopra e sotto c (senza conoscere c): questi 2 numeri sono cn e (1-c) n, se n è il numero totale di campioni. Tuttavia, ciò non sembra aiutare nella derivazione. Il momento dei momenti fornisce uno stimatore per c senza molti problemi. Qual è la natura esatta dell'ostruzione a MLE qui (se effettivamente ce n'è uno)?

Più dettagli:

Consideriamo in [ 0 , 1 ] e la distribuzione definita su [ 0 , 1 ] da: $c$$[0,1]$$[0,1]$

$f(x;c) = \frac{2x}{c}$ se x <c
$f(x;c) = \frac{2(1-x)}{(1-c)}$ se c <= x

Facciamo un $n$ iid campioni $\{x_{i}\}$ da questa distribuzione modulo il log-verosimiglianza di c dato questo esempio:

$\hat{l}(c | \{x_{i}\}) = \sum_{i=1}^{n}ln(f(x_{i}|c))$

Sto quindi cercando di usare il fatto che, data la forma di , sappiamo che i campioni di scenderanno al di sotto della (sconosciuta) , e cadranno al di sopra di . IMHO, questo consente di scomporre la somma nell'espressione della probabilità logaritmica in questo modo:c n c ( 1 - c ) n $f$$cn$$c$$(1-c)n$$c$

$\hat{l}(c | \{x_{i}\}) = \sum_{i=1}^{cn}ln\frac{2 x_{i}}{c} + \sum_{i=1}^{(1-c)n}ln\frac{2(1-x_{i})}{1-c}$

Qui, non sono sicuro di come procedere. MLE comporterà prendendo un derivato wrt della verosimiglianza, ma ho come limite superiore della sommatoria, che sembra bloccare tale. Potrei provare con un'altra forma di verosimiglianza, usando le funzioni dell'indicatore:$c$$c$

$\hat{l}(c | \{x_{i}\}) = \sum_{i=1}^{n}\{x_{i}<c\}ln\frac{2 x_{i}}{c} + \sum_{i=1}^{n}\{c<=x_{i}\}ln\frac{2(1-x_{i})}{1-c}$

Ma anche derivare gli indicatori non sembra facile, anche se i delta di Dirac potrebbero consentire di continuare (pur avendo ancora degli indicatori, dato che dobbiamo derivare i prodotti).

Quindi, qui sono bloccato in MLE. Qualche idea?

È possibile applicare la normale procedura MLE alla distribuzione triangolare?

Certamente! Sebbene ci siano alcune stranezze da affrontare, in questo caso è possibile calcolare gli MLE.

Tuttavia, se per "la solita procedura" intendi "prendi i derivati ​​della verosimiglianza e impostala uguale a zero", allora forse no.

Qual è la natura esatta dell'ostruzione a MLE qui (se effettivamente ce n'è uno)?

Hai provato a disegnare la probabilità?

-

Seguito dopo il chiarimento della domanda:

La domanda sul disegno della probabilità non era un commento inattivo, ma centrale nella questione.

L'MLE prevede l'assunzione di un derivato

No. MLE comporta la ricerca dell'argmax di una funzione. Ciò comporta solo la ricerca degli zeri di un derivato in determinate condizioni ... che non valgono qui. Nel migliore dei casi, se riesci a farlo, identificherai alcuni minimi locali .

Come suggerito dalla mia domanda precedente, guarda la probabilità.

$y$

0.5067705 0.2345473 0.4121822 0.3780912 0.3085981 0.3867052 0.4177924
0.5009028 0.8420312 0.2588613

$c$

Le linee grigie segnano i valori dei dati (probabilmente avrei dovuto generare un nuovo campione per ottenere una migliore separazione dei valori). I punti neri indicano la probabilità / probabilità logaritmica di tali valori.

Ecco uno zoom vicino al massimo della probabilità, per vedere più dettagli:

Come si può vedere dalla probabilità, in molte statistiche dell'ordine, la funzione di probabilità ha "angoli" acuti - punti in cui la derivata non esiste (il che non sorprende - il pdf originale ha un angolo e stiamo prendendo un prodotto di pdf). Questo (che ci sono cuspidi nelle statistiche dell'ordine) è il caso della distribuzione triangolare e il massimo si verifica sempre in una delle statistiche dell'ordine. (Che le cuspidi si verificano alle statistiche degli ordini non è univoco per le distribuzioni triangolari; ad esempio la densità di Laplace ha un angolo e di conseguenza la probabilità per il suo centro ne ha una per ogni statistica degli ordini.)

Come accade nel mio campione, il massimo si verifica come statistica del quarto ordine, 0,3780912

$c$$c$

Un utile riferimento è il capitolo 1 di " Beyond Beta " di Johan van Dorp e Samuel Kotz. Come capita, il capitolo 1 è un capitolo 'campione' gratuito per il libro: puoi scaricarlo qui .

C'è un delizioso piccolo articolo di Eddie Oliver su questo problema con la distribuzione triangolare, penso in American Statistician (il che rende sostanzialmente gli stessi punti; penso che fosse in un angolo degli insegnanti). Se riesco a trovarlo, lo darò come riferimento.

Modifica: eccolo:

EH Oliver (1972), A Maximum Likelihood Oddity,
The American Statistician , Vol 26, Issue 3, June, p43-44

( link del publisher )

Se riesci a prenderlo facilmente, vale la pena dare un'occhiata, ma quel capitolo di Dorp e Kotz copre la maggior parte delle questioni rilevanti, quindi non è cruciale.

A titolo di follow-up sulla domanda nei commenti, anche se potessi trovare un modo per 'appianare' gli angoli, dovresti comunque affrontare il fatto che puoi ottenere più massimi locali:

Tuttavia, potrebbe essere possibile trovare stimatori con proprietà molto buone (meglio del metodo dei momenti), che è possibile scrivere facilmente. Ma ML su triangolare su (0,1) è alcune righe di codice.

Se si tratta di enormi quantità di dati, anche questo può essere affrontato, ma sarebbe un'altra domanda, penso. Ad esempio, non tutti i punti dati possono essere massimi, il che riduce il lavoro e ci sono altri risparmi che possono essere fatti.