Teoremi generali per coerenza e normalità asintotica di massima verosimiglianza

Sono interessato a un buon riferimento per i risultati relativi alle proprietà asintotiche degli stimatori della massima verosimiglianza. Considera un modello $\{f_n(\cdot \mid \theta): \theta \in \Theta, n \in \mathbb N\}$ dove è una densità dimensionale e è l'MLE basato su un campione da dove è il valore "vero" di . Ci sono due irregolarità che mi interessano.n θ n X 1 , ... , X n f n ( ⋅ | θ 0 ) θ 0$f_n(\mathbf x \mid \theta)$$n$$\hat \theta_n$$X_1, \ldots, X_n$$f_n(\cdot \mid \theta_0)$$\theta_0$$\theta$

1. I dati non sono iid e, di conseguenza, le informazioni di Fisher su maturano ad una velocità inferiore a . θ $X_1, \ldots, X_n$$\theta$$n$
2. $\Theta$ è un insieme limitato e con probabilità positiva trova al limite. Il limite corrisponde a un modello "più semplice", e quindi vi è un interesse particolare nel fatto che si trovi o meno sul limite.θ$\hat \theta_n$$\theta_0$

Le mie domande particolari sono

1. Lasciando che denoti le informazioni Fisher osservate corrispondenti a , e supponiamo che si trovi all'interno di . In quali condizioni è asintoticamente normale come ? In particolare, le condizioni di regolarità sono simili a quelle usuali, con la modifica rilevante da in un certo senso?θ θ 0 Θ [ J n ( θ n ) ] 1 / 2 ( θ n - θ 0 ) n → ∞ J n ( θ n ) → $J_n(\theta)$$\theta$$\theta_0$$\Theta$

   $$\left[J_n(\hat \theta_n)\right]^{1/2}(\hat \theta_n - \theta_0)$$ $n \to \infty$$J_n(\hat \theta_n) \to \infty$

2. Supponi invece che sia al limite e ricorda ancora che accade con probabilità positiva - per concretezza, in un modello a effetti misti possiamo avere . In quali condizioni (quasi sicuramente o in probabilità) e in quali condizioni alla fine (questo probabilmente fallisce per il modello di effetti misti, ma corrisponde alle proprietà "oracle" per LASSO e relativi stimatori, quindi forse è troppo chiedere risultati generali)?θ n = θ 0 Y i j = μ + β i + ε i j σ 2 β = 0 θ n → θ 0 θ n = θ $\theta_0$$\hat \theta_n = \theta_0$$Y_{ij} = \mu + \beta_i + \epsilon_{ij}$$\hat \sigma_{\beta}^2 = 0$$\hat \theta_n \to \theta_0$$\hat \theta_n = \theta_0$

Ancora una volta, solo un puntatore a un testo con risultati a questo livello di generalità sarebbe molto apprezzato.

Riferimenti da cui puoi iniziare:

Nel caso in cui il vero parametro si trovi al limite :
Moran (1971) "Stima della massima verosimiglianza in condizioni non standard"

Steven G. Self e Kung-Yee Liang (1987) "Proprietà asintotiche degli stimatori della massima verosimiglianza e test del rapporto di verosimiglianza in condizioni non standard"

Ziding Feng e Charles E. McCulloch (1990) "Inferenza statistica usando la stima della massima verosimiglianza e il rapporto di verosimiglianza generalizzata quando il vero parametro è al confine dello spazio dei parametri"

Per camper non identici ma indipendenti :
Bruce Hoadley (1971) "Proprietà asintotiche degli stimatori della massima verosimiglianza per il caso indipendente non identicamente distribuito"

Per camper dipendenti:
Martin J. Crowder (1976) "Stima della massima verosimiglianza per osservazioni dipendenti"

Anche

Huber, PJ (1967). "Il comportamento delle stime di massima verosimiglianza in condizioni non standard" . In Atti del quinto simposio di Berkeley su statistiche matematiche e probabilità (Vol. 1, N. 1, pagg. 221-233).

Aggiornamento 17-03-2017: come suggerito in un commento, è possibile fare riferimento al seguente documento

Andrews, DW (1987). Coerenza nei modelli econometrici non lineari: una legge uniforme generica di grandi numeri. Econometrica: Journal of the Econometric Society, 1465-1471.