Numeri casuali uniformi falsi: distribuiti in modo più uniforme rispetto ai dati uniformi reali

Sto cercando un modo per generare numeri casuali che sembrano distribuiti in modo uniforme - e ogni test mostrerà che sono uniformi - tranne per il fatto che sono distribuiti in modo più uniforme rispetto ai dati uniformi reali .

Il problema che ho con i "veri" randoms uniformi è che occasionalmente si raggruppano. Questo effetto è più forte con una dimensione del campione bassa. Detto approssimativamente: quando disegno due randomi uniformi in U [0; 1], le probabilità sono circa del 10% di essere entro un intervallo di 0,1 e dell'1% di essere entro 0,01.

Quindi sto cercando un buon modo per generare numeri casuali distribuiti in modo più uniforme dei randoms uniformi .

Esempio di esempio: supponiamo che stia facendo un gioco per computer e che voglio posizionare il tesoro in modo casuale su una mappa (senza preoccuparmi di nulla). Non voglio che il tesoro sia tutto in un unico posto, dovrebbe essere su tutta la mappa. Con randoms uniformi, se posiziono, diciamo, 10 oggetti, le probabilità non sono così basse che ce ne siano 5 o così vicine l'una all'altra. Ciò può dare a un giocatore un vantaggio rispetto ad un altro. Pensa al dragamine, le probabilità (anche se basse, se ci sono abbastanza mine) sono che sei davvero fortunato e vinci con un solo clic.

Un approccio molto ingenuo per il mio problema è quello di dividere i dati in una griglia. Fintanto che il numero è abbastanza grande (e presenta fattori), si può imporre una maggiore uniformità in questo modo. Quindi, invece di disegnare 12 variabili casuali da U [0; 1], posso disegnare 6 da U [0; .5] e 6 da U [0,5; 1] o 4 da U [0; 1/3] + 4 da U [1/3; 2/3] + 4 da U [2/3; 1].

C'è un modo migliore per ottenere questa uniformità in più nell'uniforme? Probabilmente funziona solo per i random di gruppo (quando si disegna un singolo casuale, devo ovviamente considerare l'intero intervallo). In particolare, posso mescolare nuovamente i record in seguito (quindi non sono i primi quattro del primo terzo).

Che ne dici di farlo in modo incrementale? Quindi il primo è su U [0; 1], quindi due per ogni metà, uno per terzo, uno per quarto? Questo è stato studiato e quanto è buono? Potrei dover stare attento a usare generatori diversi per xey per non correlarli (il primo xy sarebbe sempre nella metà inferiore, il secondo nella metà sinistra e il terzo inferiore, il terzo nel terzo centrale e il terzo superiore. .. quindi è necessaria anche almeno una permutazione casuale del cestino e, nel lungo periodo, sarà troppo uniforme, immagino.

Come nodo laterale, esiste un noto test se una certa distribuzione è distribuita in modo troppo uniforme per essere veramente uniforme? Quindi testando la "divisa vera" contro "qualcuno ha incasinato i dati e distribuito gli articoli in modo più uniforme". Se ricordo bene, Hopkins Statistic può misurare questo, ma può essere utilizzato anche per i test? Anche un po 'un KS-test inverso: se la deviazione maggiore è al di sotto di una certa soglia prevista, i dati sono distribuiti in modo troppo uniforme?

Sì , ci sono molti modi per produrre una sequenza di numeri che sono distribuiti più uniformemente delle uniformi casuali. In effetti, esiste un intero campo dedicato a questa domanda; è la spina dorsale del quasi-Monte Carlo (QMC). Di seguito è riportato un breve tour delle basi assolute.

Uniformità di misurazione

Esistono molti modi per farlo, ma il modo più comune ha un sapore forte, intuitivo e geometrico. Supponiamo di preoccuparci di generare punti in per un numero intero positivo . Definisci dove è un rettangolo in tale che ex 1 , x 2 , … , x n [ 0 , 1 ] d$n$$x_1,x_2,\ldots,x_n$$[0,1]^d$$d$

$$\newcommand{\I}{\mathbf 1} D_n := \sup_{R \in \mathcal R}\,\left|\frac{1}{n}\sum_{i=1}^n \I_{(x_i \in R)} - \mathrm{vol}(R)\right| \>,$$ $R$$[a_1, b_1] \times \cdots \times [a_d, b_d]$$[0,1]^d$$0 \leq a_i \leq b_i \leq 1$$\mathcal R$è l'insieme di tutti questi rettangoli. Il primo termine all'interno del modulo è la proporzione "osservata" di punti all'interno di e il secondo termine è il volume di , .$R$$R$$\mathrm{vol}(R) = \prod_i (b_i - a_i)$

La quantità è spesso chiamata discrepanza o discrepanza estrema dell'insieme di punti . Intuitivamente, troviamo il rettangolo "peggiore" dove la proporzione di punti si discosta di più da ciò che ci aspetteremmo in perfetta uniformità.$D_n$$(x_i)$$R$

Questo è ingombrante nella pratica e difficile da calcolare. Per la maggior parte, le persone preferiscono lavorare con la discrepanza della stella , L'unica differenza è l'insieme su cui viene preso il supremum. È l'insieme di rettangoli ancorati (all'origine), ovvero dove .

$$D_n^\star = \sup_{R \in \mathcal A} \,\left|\frac{1}{n}\sum_{i=1}^n \I_{(x_i \in R)} - \mathrm{vol}(R)\right| \>.$$ $\mathcal A$$a_1 = a_2 = \cdots = a_d = 0$

Lemma : per tutti , . Prova . La mano sinistra rilegato è evidente dal momento che . Il limite destro segue perché ogni può essere composta tramite unioni, intersezioni e complementi di non più di rettangoli ancorati (cioè in ).$D_n^\star \leq D_n \leq 2^d D_n^\star$$n$$d$
$\mathcal A \subset \mathcal R$$R \in \mathcal R$$2^d$$\mathcal A$

Quindi, vediamo che e sono equivalenti, nel senso che se uno è piccolo man mano che cresce, anche l'altro lo sarà. Ecco un'immagine (cartone animato) che mostra i rettangoli candidati per ogni discrepanza.$D_n$$D_n^\star$$n$

Esempi di sequenze "buone"

Le sequenze con discrepanza stella bassa verificabile sono spesso chiamate, non sorprendentemente, sequenze a bassa discrepanza .$D_n^\star$

van der Corput . Questo è forse l'esempio più semplice. Per , le sequenze di van der Corput si formano espandendo l'intero in binario e quindi "riflettendo le cifre" attorno al punto decimale. Più formalmente, questo viene fatto con la funzione radicale inversa in base , dove e sono le cifre nell'espansione di base di . Questa funzione costituisce la base anche per molte altre sequenze. Ad esempio, in binario è e così$d=1$$i$$b$

$$\newcommand{\rinv}{\phi} \rinv_b(i) = \sum_{k=0}^\infty a_k b^{-k-1} \>,$$ $i = \sum_{k=0}^\infty a_k b^k$$a_k$$b$$i$$41$$101001$$a_0 = 1$ , , , , e . Quindi, il 41 ° punto nella sequenza di van der Corput è .$a_1 = 0$$a_2 = 0$$a_3 = 1$$a_4 = 0$$a_5 = 1$$x_{41} = \rinv_2(41) = 0.100101\,\text{(base 2)} = 37/64$

Si noti che poiché il bit meno significativo di oscilla tra e , i punti per dispari sono in , mentre i punti per pari sono in .$i$$0$$1$$x_i$$i$$[1/2,1)$$x_i$$i$$(0,1/2)$

Sequenze di Halton . Tra le più popolari delle sequenze classiche a bassa discrepanza, queste sono le estensioni della sequenza van der Corput a più dimensioni. Lascia che sia il primo più piccolo . Poi, l' esimo punto del -dimensionale sequenza di Halton è Per bassi questi funzionano abbastanza bene, ma hanno problemi di dimensioni superiori .$p_j$$j$$i$$x_i$$d$

$$x_i = (\rinv_{p_1}(i), \rinv_{p_2}(i),\ldots,\rinv_{p_d}(i)) \>.$$ $d$

Le sequenze di Halton soddisfano . Sono anche belli perché sono estensibili in quanto la costruzione dei punti non dipende da una scelta a priori della lunghezza della sequenza .$D_n^\star = O(n^{-1} (\log n)^d)$$n$

Sequenze di Hammersley . Questa è una modifica molto semplice della sequenza di Halton. Utilizziamo invece Forse sorprendentemente, il vantaggio è che hanno una migliore discrepanza della stella .

$$x_i = (i/n, \rinv_{p_1}(i), \rinv_{p_2}(i),\ldots,\rinv_{p_{d-1}}(i)) \>.$$ $D_n^\star = O(n^{-1}(\log n)^{d-1})$

Ecco un esempio delle sequenze di Halton e Hammersley in due dimensioni.

Sequenze di Halton permeate da Faure . Una serie speciale di permutazioni (fissata in funzione di ) può essere applicata all'espansione delle cifre per ogni quando si produce la sequenza di Halton. Questo aiuta a rimediare (in una certa misura) ai problemi citati in dimensioni superiori. Ciascuna delle permutazioni ha l'interessante proprietà di mantenere e come punti fissi.$i$$a_k$$i$$0$$b-1$

Regole reticolari . Consenti a essere numeri interi. Prendi dove indica la parte frazionaria di . La scelta oculata dei valori produce buone proprietà di uniformità. Le scelte sbagliate possono portare a cattive sequenze. Inoltre non sono estensibili. Ecco due esempi.$\beta_1, \ldots, \beta_{d-1}$

$$x_i = (i/n, \{i \beta_1 / n\}, \ldots, \{i \beta_{d-1}/n\}) \>,$$ $\{y\}$$y$$\beta$

$(t,m,s)$ reti . reti nella base sono insiemi di punti tali che ogni rettangolo del volume in contiene punti . Questa è una forte forma di uniformità. Piccola è tua amica, in questo caso. Le sequenze di Halton, Sobol 'e Faure sono esempi di reti . Questi si prestano bene alla randomizzazione tramite rimescolamento. Scrambling casuale (fatto a destra) di una rete produce un'altra rete . Il progetto MinT conserva una raccolta di tali sequenze.$(t,m,s)$$b$$b^{t-m}$$[0,1]^s$$b^t$$t$$(t,m,s)$$(t,m,s)$$(t,m,s)$

Semplice randomizzazione: rotazioni di Cranley-Patterson . Sia una sequenza di punti. Sia . Quindi i punti sono distribuiti uniformemente in .$x_i \in [0,1]^d$$U \sim \mathcal U(0,1)$$\hat x_i = \{x_i + U\}$$[0,1]^d$

Ecco un esempio con i punti blu che sono i punti originali e i punti rossi che sono quelli ruotati con linee che li collegano (e mostrati avvolti intorno, dove appropriato).

Sequenze distribuite in modo uniforme . Questa è una nozione ancora più forte di uniformità che a volte entra in gioco. Sia la sequenza di punti in e ora forma blocchi sovrapposti di dimensione per ottenere la sequenza . Quindi, se , prendiamo quindi , ecc. Se, per ogni , , quindi viene distribuito in modo completamente uniforme . In altre parole, la sequenza produce un insieme di punti di qualsiasi$(u_i)$$[0,1]$$d$$(x_i)$$s = 3$$x_1 = (u_1,u_2,u_3)$$x_2 = (u_2,u_3,u_4)$ $s \geq 1$$D_n^\star(x_1,\ldots,x_n) \to 0$$(u_i)$dimensione con proprietà desiderabili .$D_n^\star$

Ad esempio, la sequenza di van der Corput non è distribuita completamente in modo uniforme poiché per , i punti sono nel quadrato e i punti sono in . Quindi non ci sono punti nel quadrato che implica che per , per tutto .$s = 2$$x_{2i}$$(0,1/2) \times [1/2,1)$$x_{2i-1}$$[1/2,1) \times (0,1/2)$$(0,1/2) \times (0,1/2)$$s=2$$D_n^\star \geq 1/4$$n$

Riferimenti standard

La monografia Niederreiter (1992) e il testo di Fang and Wang (1994) sono luoghi da visitare per ulteriori esplorazioni.

Un modo per farlo sarebbe quello di generare numeri casuali uniformi, quindi verificare la "vicinanza" utilizzando qualsiasi metodo che ti piace e quindi eliminare gli oggetti casuali che sono troppo vicini agli altri e scegliere un altro set di uniformi casuali per compensarli.

Una simile distribuzione supererebbe ogni prova di uniformità? Spero proprio di no! Non è più uniformemente distribuito, ora è un'altra distribuzione.

Un aspetto uninuitivo della probabilità è che il caso è scomodo. Ci sono più corse in dati casuali di quanto la gente pensi che ci saranno. Penso che Tversky abbia fatto qualche ricerca su questo (ha fatto così tante ricerche, che è difficile da ricordare).

Questo è noto come un processo di poisson "hard-core" - così chiamato da Brian Ripley negli anni '70; cioè vuoi che sia casuale, ma non vuoi che i punti siano troppo vicini tra loro. L '"hard-core" può essere immaginato come una zona cuscinetto attorno alla quale altri punti non possono intromettersi.

Immagina di registrare la posizione di alcune auto in una città, ma stai registrando solo il punto nel centro nominale dell'auto. Mentre sono in strada, nessuna coppia di due punti può avvicinarsi perché i punti sono protetti dal "nocciolo duro" della carrozzeria - ignoreremo la potenziale super-posizione nei parcheggi multipiano :-)

Esistono procedure per generare tali processi di punti: un modo è semplicemente quello di generare punti in modo uniforme e quindi rimuovere quelli troppo vicini tra loro!

Per alcuni dettagli su tali processi, fare riferimento ad esempio a questo

Per quanto riguarda la generazione in batch in anticipo, genererei un gran numero di set di variate pseudocasuali e quindi li testerei con un test come il test di Kolmogorov-Smirnov. Dovrai selezionare il set con il valore p più alto (ovvero è l'ideale). Nota che questo sarà lento, ma man mano che diventa più grande probabilmente diventa meno necessario. $p \approx 1$$N$

Per quanto riguarda la generazione incrementale, essenzialmente stai cercando una serie con un'autocorrelazione moderatamente negativa. Non sono sicuro di quale sarebbe il modo migliore per farlo, dato che ho un'esperienza molto limitata con le serie storiche, ma sospetto che esistano algoritmi esistenti per questo.

Per quanto riguarda un test per "troppo uniforme", qualsiasi test per stabilire se un campione segue una distribuzione specifica (come il KS annotato sopra) lo farà, vuoi solo verificare se , piuttosto che il approccio standard. Ho scritto qui un esempio di questo approccio alternativo: il chi-quadrato è sempre un test unilaterale . $p > (1-\alpha)$

Vorrei formalizzare il tuo problema in questo modo: vuoi una distribuzione su tale che la densità sia per alcuni quantificando la repulsione dei punti.$[0,1]^n$$f(x) \propto e^{\left(\frac1k\sum_{ij}\lvert x_i-x_j \rvert^{k}\right)^{\frac1k}}$$k<0$

Un modo semplice per generare tali vettori è eseguire il campionamento di Gibbs.