Entropia di Rényi all'infinito o entropia minima


8

Sto leggendo un documento che fa riferimento al limite mentre n va all'infinito dell'entropia di Rényi. Lo definisce comeHn(X)=11nlog2(i=1Npin). Dice quindi che il limite èn è log2(p1). Ho visto un altro articolo che utilizza il massimo dipis invece di p1. Penso che questo funzioni abbastanza facilmente se tutto ilpissono uguali (una distribuzione uniforme). Non ho idea di come dimostrarlo per qualcosa di diverso da una distribuzione uniforme. Qualcuno può mostrarmi come è fatto?

Risposte:


7

supporre p1=maxipi. Abbiamo Pertanto Come , mentre .

p1ni=1NpinNp1n.
nlogp1+logN1nHn(X)nlogp11n.
nlogN/(1-n)0n/(1-n)-1
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.