Come generare numeri basati su una distribuzione discreta arbitraria?

Come faccio a generare numeri basati su una distribuzione discreta arbitraria?

Ad esempio, ho un insieme di numeri che voglio generare. Di 'che sono etichettati da 1-3 come segue.

1: 4%, 2: 50%, 3: 46%

Fondamentalmente, le percentuali sono probabilità che appaiano nell'output del generatore di numeri casuali. Ho un generatore di numeri pesudorandom che genererà una distribuzione uniforme nell'intervallo [0, 1]. C'è un modo per farlo?

Non ci sono limiti al numero di elementi che posso avere, ma% aggiungerà fino al 100%.

Uno dei migliori algoritmi per il campionamento da una distribuzione discreta è il metodo alias .

Il metodo alias (in modo efficiente) precompone una struttura di dati bidimensionale per partizionare un rettangolo in aree proporzionali alle probabilità.

In questo schema dal sito di riferimento, un rettangolo di altezza dell'unità è stato partizionato in quattro tipi di regioni - come differenziate per colore - in proporzione , 1 / 3 , 1 / 12 , e 1 / 12 , in per campionare ripetutamente da una distribuzione discreta con queste probabilità. Le strisce verticali hanno una larghezza (unitaria) costante. Ciascuno è diviso in solo uno o due pezzi. Le identità dei pezzi e le posizioni delle divisioni verticali sono memorizzate in tabelle accessibili tramite l'indice di colonna.$1/2$$1/3$$1/12$$1/12$

La tabella può essere campionata in due semplici passaggi (uno per ciascuna coordinata) che richiedono la generazione di soli due valori uniformi indipendenti e il calcolo . Ciò migliora il calcolo O ( log ( n ) ) necessario per invertire il CDF discreto come descritto in altre risposte qui.$O(1)$$O(\log(n))$

Puoi farlo facilmente in R, basta specificare la dimensione che ti serve:

sample(x=c(1,2,3), size=1000, replace=TRUE, prob=c(.04,.50,.46))

Nel tuo esempio, supponi di disegnare il tuo valore Pseudorandom Uniform [0,1] e chiamarlo U. Quindi emetti:

1 se U <0,04

2 se U> = 0,04 e U <0,54

3 se U> = 0,54

Se le% specificate sono a, b, ..., semplicemente l'output

valore 1 se U

valore 2 se U> = ae U <(a + b)

eccetera.

In sostanza, stiamo mappando la% in sottoinsiemi di [0,1] e sappiamo che la probabilità che un valore casuale uniforme rientri in qualsiasi intervallo è semplicemente la lunghezza di quell'intervallo. Mettere in ordine le gamme sembra il modo più semplice, se non unico, di farlo. Questo presuppone che tu stia chiedendo solo distribuzioni discrete; per continuo, può fare qualcosa come "campionamento di rifiuto" ( voce di Wikipedia ).

Supponiamo che ci siano possibili esiti discreti. Dividi l'intervallo [ 0 , 1 ] in sottointervalli in base alla funzione di massa di probabilità cumulativa, F , per dare l' intervallo partizionato ( 0 , 1 $m$$[0,1]$$F$$(0,1)$

dove e F ( 0 ) ≡ 0 . Nel tuo esempio m = 3 e$I_{j} = (F(j-1), F(j))$$F(0) \equiv 0$$m = 3$

poiché e F ( 2 ) = .54 e F ( 3 ) = 1 .$F(1) = .04$$F(2) = .54$$F(3) = 1$

Quindi puoi generare con la distribuzione F usando il seguente algoritmo:$X$$F$

(1) genera $U \sim {\rm Uniform}(0,1)$

(2) Se , allora X = j .$U \in I_{j}$$X = j$

• Questo passaggio può essere realizzato esaminando se è inferiore a ciascuna delle probabilità cumulative e vedendo dove si verifica il punto di cambiamento (da a ), che dovrebbe essere una questione di utilizzo di un operatore booleano in qualsiasi linguaggio di programmazione che si sta utilizzando e trovare dove si verifica il primo nel vettore.$U$TRUEFALSEFALSE

Si noti che sarà esattamente in uno degli intervalli I j poiché sono disgiunti e partizionati [ 0 , 1 ] .$U$$I_{j}$$[0,1]$

One simple algorithm is to start with your uniform random number and in a loop first subtract off the first probability, if the result is negative then you return the first value, if still positive then you go to the next iteration and subtract off the next probability, check if negative, etc.

This is nice in that the number of values/probabilities can be infinite but you only need to calculate the probabilities when you get close to those numbers (for something like generating from a Poisson or negative binomial distribution).

If you have a finite set of probabilities, but will be generating many numbers from them then it could be more efficient to sort the probabilities so that you subtract the largest first, then the 2nd largest next and so forth.

First of all, let me draw your attention to a python library with ready-to-use classes for either integer or floating point random number generation that follow arbitrary distribution.

Generally speaking there are several approaches to this problem. Some are linear in time, but require large memory storage, some run in O(n log(n)) time. Some are optimized for integer numbers and some are defined for circular histograms (for example: generating random time spots during a day). In the above mentioned library I used this paper for integer number cases and this recipe for floating point numbers. It (still) lacks circular histogram support and is generally messy, but it works well.

I had the same problem. Given a set where each item has a probability and whose items' probabilities sum up to one, I wanted to draw a sample efficiently, i.e. without sorting anything and without repeatedly iterating over the set.

The following function draws the lowest of $N$ uniformly distributed random numbers within the interval $[a,1)$. Let $r$ be a random number from $[0,1)$.

You can use this function to draw an ascending series $(a_i)$ of $N$ uniformly distributed random numbers in [0,1). Here is an example with $N = 10$:

$a_0 = \text{next}(10, 0)$
$a_1 = \text{next}(9, a_0)$
$a_2 = \text{next}(8, a_1)$
$\dots$
$a_9 = \text{next}(1, a_8)$

While drawing that ascending series $(a_i)$ of uniformly distributed numbers, iterate over the set of probabilities $P$ which represents your arbitraty (yet finite) distribution. Let $0 \leq k < |P|$ be the iterator and $p_k \in P$. After drawing $a_i$, increment $k$ zero or more times until $\sum p_0 \dots p_k > a_i$. Then add $p_k$ to your sample and move on with drawing $a_{i+1}$.

Example with the op's set $\{(1, 0.04), (2, 0.5), (3, 0.46)\}$ and sample size $N = 10$:

i  a_i    k  Sum   Draw
0  0.031  0  0.04  1
1  0.200  1  0.54  2
2  0.236  1  0.54  2
3  0.402  1  0.54  2
4  0.488  1  0.54  2
5  0.589  2  1.0   3
6  0.625  2  1.0   3
7  0.638  2  1.0   3
8  0.738  2  1.0   3
9  0.942  2  1.0   3

Sample: $(1, 2, 2, 2, 2, 3, 3, 3, 3, 3)$

If you wonder about the $\text{next}$ function: It is the inverse of the probability that one of $N$ uniformly distributed random numbers lies within the interval $[a, x)$ with $x \leq 1$.