La linea separa due serie di punti

19

Se esiste un modo per identificare se due serie di punti possono essere separati da una linea?

Abbiamo due serie di punti e se esiste una linea che separa e tale che tutti i punti di e solo su un lato della linea, e tutti i punti di e solo sull'altro lato. $A$ $B$ $A$ $B$ $A$ $A$ $B$ $B$

L'algoritmo più ingenuo che mi è venuto in mente è costruire poligono convesso per e e testarli per l'intersezione. Sembra che la complessità temporale per questo dovrebbe essere come per la costruzione di un poligono convesso. In realtà non mi aspetto alcun miglioramento nella complessità temporale, non sono sicuro che possa essere migliorato affatto. Ma almeno ci dovrebbe essere un modo più bello per determinare se esiste una tale linea. $A$ $B$ $O(n\log h)$

algorithms machine-learning computational-geometry

— com
fonte

19

Sia uli che Dave Clarke osservano correttamente che si tratta di un problema di programmazione lineare, anche in dimensioni più elevate (questi due set di punti possono essere separati da un iperpiano?) E quindi possono essere risolti in tempo polinomiale. Ma poiché i tuoi punti si trovano sul piano, il tuo problema può effettivamente essere risolto in tempo, dove è il numero totale di punti. $O(n)$ $n$

La soluzione più semplice è probabilmente l'algoritmo randomizzato di Seidel. Scegli un punto di input uniformemente a caso e calcola ricorsivamente una linea di separazione per tutti i punti tranne . $p$ $\ell$ $p$

Se non esiste tale linea, i punti originali non sono separabili.
Se trova sul lato corretto di , allora separa i punti originali. $p$ $\ell$ $\ell$
Se è dalla parte sbagliata di , allora i punti originali possono essere separati da una linea attraverso , oppure i punti originali non sono affatto separabili. Questa condizione è facile da verificare in tempo [esercizio]. $p$ $\ell$ $p$ $O(n)$

Questo algoritmo viene eseguito nel tempo con alta probabilità (rispetto alle scelte casuali dell'algoritmo). Per maggiori dettagli, vedi l'articolo originale o un numero qualsiasi di appunti di lezione online. $O(n)$

— jeffe
fonte

Grazie mille, approfondirò questo documento.

— com

Nel tuo terzo caso, affermi che potrebbe essere in modo che la linea passi attraverso

, come può esserlo sapere?

p

$p$

— Tarrasch,

10

La proprietà dei due set di dati è quella della separabilità lineare , semplicemente, che esiste una linea che li separa. Un sacco di machine learning è dedicato alla ricerca di classificatori lineari , che sono linee che eseguono la separazione che ti interessa.

Mentre parli di linee, suppongo che i tuoi punti siano nell'aereo. Quello che vuoi fare è trovare i valori , e , in modo tale che per tutti i punti nel set , e per tutti i punti in , $w_1$ $w_2$ $w_3$ $(a_1,a_2)$ $A$ $w_1 a_1+w_2a_2\ge w_3$ $(b_1,b_2)$ $B$ . Così, la disuguaglianza può essere vista come un classificatore per set . $w_1 b_1+w_2b_2<w_3$ $w_1 x+w_2y\ge w_3$ $A$

Esistono molti algoritmi di machine learning per determinare una linea ottimale (regressione lineare, regressione logistica e così via). Questi troveranno i valori per base ad alcune metriche di errore. Quindi è possibile verificare se tutti i punti sono classificati correttamente. Cioè, se tutti i valori soddisfa l'equazione sopra e similmente per . $w_1,w_2,w_3$ $A$ $B$

Dato che ti interessa solo sapere se esiste una tale linea, devi usare le tecniche esistenti (anche se probabilmente sarebbe più semplice). Basta impostare la seguente raccolta di uguaglianze in termini di variabili libere . $w_1,w_2,w_3$

per ogni, dove . $w_1 a^i_1+w_2a^i_2\ge w_3$ $i=1,..,|A|$ $A=\{(a^1_1,a^1_2),\ldots,(a^{|A|}_1,a^{|A|}_2)\}$

per ogni, dove . $w_1 b^j_1+w_2b^j_2< w_3$ $j=1,..,|B|$ $B=\{(b^1_1,b^1_2),\ldots,(b^{|B|}_1,b^{|B|}_2)\}$

Se questi vincoli sono coerenti, esiste una linea.

— Dave Clarke
fonte

5

Se ricordo bene supportare macchine vettoriali costruire iperpiani separati. Se si sceglie la dimensione l'iperpiano diventa ovviamente una linea. Potrebbe essere necessario verificare se ci sono ulteriori presupposti da soddisfare. In due dimensioni l'intero approccio potrebbe semplificare notevolmente, quindi l'autonomia potrebbe essere migliore rispetto all'approccio generale. $2$

— uli
fonte