Che cos'è una funzione di generazione del momento (MGF)?

Puoi spiegarlo in parole povere e con un esempio semplice e facile?

Per favore, limitare il più possibile l'uso delle notazioni matematiche formali.

Supponiamo che un'intuizione priva di equazioni non sia possibile, e insistiamo ancora nel ridurre la matematica agli elementi essenziali per avere un'idea di ciò che sta succedendo: stiamo cercando di ottenere i momenti statistici , che, dopo il riferimento obbligatorio alla fisica , definiamo il valore atteso di una potenza di una variabile casuale. Per una variabile casuale continua, il momento $k$ -th grezzo è di LOTUS :

$$\begin{align}\large \color{red}{\mathbb{E}\left[{X^k}\right]} &= \displaystyle\int_{-\infty}^{\infty}\color{blue}{X^k}\,\,\color{green}{\text{pdf}}\,\,\,dx\tag{1}\end{align}$$

La funzione generatrice del momento ,

$$M_X(t):=\mathbb E\big[e^{tX}\big],$$ è un modo per aggirare questo integrale (Eq.1) effettuando invece:

$$\begin{align} \large \color{blue}{\mathbb{E}\left[e^{\,tX}\right]}&=\displaystyle \int_{-\infty}^{\infty}\color{blue}{e^{tX}}\,\color{green}{\text{pdf}}\, dx\tag{2}\end{align}$$

Perché? Perché è più facile e c'è una fantastica proprietà della MGF che può essere vista espandendo la serie di e di Maclaurin$\color{blue}{e^{\,tX}}$

$$e^{tX}=1+\frac{ X }{1!}\, t +\frac{ X^{2} }{2!}t^{2} +\frac{ X^{3} }{3!} t^{3} +\cdots$$

Prendendo le aspettative di entrambi i lati di questa serie di potenze:

$$\begin{align} M_X(t) &= \color{blue}{\mathbb{E}\left[e^{\,tX}\right]} \\[1.5ex] &=1 + \frac{\color{red}{\mathbb{E} \left[X\right]}}{1!} \, t \, + \frac{\color{red}{\mathbb{E} \left[X^2\right]}}{2!} \, t^2 \, + \frac{\color{red}{\mathbb{E} \left[X^3\right]}}{3!} \, t^3 \, + \cdots\tag{3} \end{align}$$

i momenti appaiono "appollaiati" su questo "stendibiancheria" polinomiale, pronti per essere abbattuti semplicemente differenziando $k$ volte e valutando a zero una volta che passiamo attraverso l'integrazione più semplice (in eq. (2)) solo una volta per tutti i momenti! Il fatto che si tratti di un'integrazione più semplice è più evidente quando il pdf è un esponenziale.

Per recuperare il $k$ -esimo momento:

$$M_X^{(k)}(0)=\frac{d^k}{dt^k}M_X(t)\Bigr|_{t=0}$$

Il fatto che alla fine vi sia la necessità di differenziare lo rende un pranzo non gratuito - alla fine si tratta di una trasformazione di Laplace a due facce del pdf con un segno modificato nell'esponente:

$$\mathcal L \{\text{pdf}(x)\}(s) =\int_{-\infty}^{\infty}e^{-sx}\text{pdf}(x) dx$$

tale che

$$M_X(t)=\mathcal L\{\text{pdf}(x)\}(-s)\tag 4.$$

Questo, in effetti, ci dà una via fisica per l'intuizione. La trasformazione di Laplace agisce sul $\color{green}{\text{pdf}}$ e lo scompone in momenti. La somiglianza con una trasformata di Fourier è inevitabile : un FT mappa una funzione su una nuova funzione sulla linea reale e Laplace mappa una funzione su una nuova funzione sul piano complesso. La trasformata di Fourier esprime una funzione o un segnale come una serie di frequenze, mentre la trasformata di Laplace risolve una funzione nei suoi momenti . In effetti, un modo diverso di ottenere momenti è attraverso una trasformata di Fourier ( funzione caratteristica ). Il termine esponenziale nella trasformata di Laplace è in generale della forma $e^{-st}$ con$s=\sigma + i\,\omega$ , corrispondente allereali esponenziali e sinusoidali immaginarie, e dando trame comequesta:

---

[ Dalla guida dello scienziato e dell'ingegnere all'elaborazione del segnale di Steven W. Smith ]

---

Pertanto la funzione $M_X(t)$ decompone il $\text{pdf}$ in qualche modo nelle sue "frequenze costituenti" quando $\sigma=0.$ Dall'eq. (4):

$$\begin{align}\require{cancel} M_X(t)&=\mathbb E\big[e^{-sX}\big]\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}{e^{-sx}}\,\text{pdf}(x)\, dx\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}{e^{-(\sigma+i\omega)x}}\,\text{pdf}(x)\, dx\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}\cancel{e^{-\sigma x}}\,\color{red}{e^{-i\omega x}\,\text{pdf}(x)\, dx} \end{align}$$

che ci lascia con l'integrale improprio della parte dell'espressione in rosso, corrispondente alla trasformata di Fourier del pdf.

In generale, l' intuizione dei poli di trasformazione di Laplace di una funzione sarebbe quella di fornire informazioni sui componenti esponenziali (decadimento) e di frequenza della funzione (in questo caso, il pdf).

---

In risposta alla domanda sotto i commenti sul passaggio da a , questa è una mossa completamente strategica: una espressione non segue dall'altra. Ecco un'analogia: abbiamo un'auto tutta nostra e siamo liberi di guidare in città ogni volta che dobbiamo occuparci di alcuni affari (leggi, integrando l'Eq non importa quanto sia difficile per ogni singolo momento separato) . Invece, possiamo fare qualcosa di completamente diverso: possiamo guidare fino alla stazione della metropolitana più vicina (leggi, risolvi l'Eq solo una volta), e da lì usa i mezzi pubblici per raggiungere ogni singolo posto che dobbiamo visitare (leggi, prendi qualsiasi derivata dell'integrale in Eq per estrarre qualunque$X^k$$e^{tx}$$(1)$$(2)$$k$$(2)$$k$-timo momento di cui abbiamo bisogno, sapendo (grazie a Eq ) che tutti i momenti si "nascondono" lì dentro e isolati valutando a ).$(3)$$0$

Nei termini più laici è un modo per codificare tutte le caratteristiche della distribuzione di probabilità in una breve frase. Ad esempio, se so che MGF della distribuzione è posso scoprire la media di questa distribuzione prendendo il primo termine dell'espansione di Taylor : Se sai cosa stai facendo, è molto più veloce rispetto alle aspettative della funzione di probabilità.

$$M(t)=e^{t\mu+1/2\sigma^2t^2}$$ $$\frac d {dt}M(t)|_{t=0}=\mu+\sigma^2t|_{t=0}=\mu$$

Inoltre, poiché questo MGF codifica tutto sulla distribuzione, se sai come manipolare la funzione, puoi applicare le operazioni su tutte le caratteristiche della distribuzione contemporaneamente! Perché non usiamo sempre MGF? Innanzitutto, non è in ogni situazione che MGF sia lo strumento più semplice. Secondo, MGF non esiste sempre.

Sopra laico

Supponiamo di avere una distribuzione normale standard. Puoi esprimere tutto ciò che sai al riguardo dichiarando il suo PDF:

$$f(x)=\frac 1 {\sqrt{2\pi}}e^{-x^2/2}$$

Puoi calcolare il suo momento come la deviazione media e standard e usarlo su variabili trasformate e funzioni su normali casuali ecc.

Puoi pensare al MGF della distribuzione normale come alternativa al PDF. Contiene la stessa quantità di informazioni. Ho già mostrato come ottenere la media.

Perché abbiamo bisogno di un modo alternativo? Come ho scritto, a volte è solo più conveniente. Ad esempio, prova a calcolare la varianza dello standard normale dal PDF: Non è così difficile, ma è molto più facile farlo con MGF :

$$\sigma^2=\int_{-\infty}^\infty x^2\frac 1 {\sqrt{2\pi}}e^{-x^2/2} dx=?$$ $M(t)=e^{t^2/2}$ $$\sigma^2=\frac {d^2} {dt^2}M(t)|_{t=0}=\frac d {dt} t |_{t=0}=1$$