Domande taggate «parameterization»



5
Cosa c'è in un nome: iperparametri
Quindi in una distribuzione normale, abbiamo due parametri: mean e variance . Nel libro Pattern Recognition and Machine Learning , appare improvvisamente un iperparametro nei termini di regolarizzazione della funzione di errore.μμ\muσ2σ2\sigma^2λλ\lambda Cosa sono gli iperparametri? Perché sono nominati come tali? E in che modo sono intuitivamente diversi dai parametri …



2
Determinante della matrice di informazioni Fisher per un modello sovra parametrizzato
Considera una variabile casuale Bernoulli con parametro (probabilità di successo). La funzione di verosimiglianza e le informazioni di Fisher (una matrice ) sono:θ 1 × 1X∈{0,1}X∈{0,1}X\in\{0,1\}θθ\theta1×11×11 \times 1 L1(θ;X)I1(θ)=p(X|θ)=θX(1−θ)1−X=detI1(θ)=1θ(1−θ)L1(θ;X)=p(X|θ)=θX(1−θ)1−XI1(θ)=detI1(θ)=1θ(1−θ) \begin{align} \mathcal{L}_1(\theta;X) &= p(\left.X\right|\theta) = \theta^{X}(1-\theta)^{1-X} \\ \mathcal{I}_1(\theta) &= \det \mathcal{I}_1(\theta) = \frac{1}{\theta(1-\theta)} \end{align} Consideriamo ora una versione "sovraparametrizzata" con due …


Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.