Dimensione Vapnik-Chervonenkis: perché non è possibile spezzare quattro punti su una linea da rettangoli?

Quindi sto leggendo la seconda edizione di "Introduzione all'apprendimento automatico" , di Bishop, et. tutti. A pagina 27 discutono della dimensione Vapnik-Chervonenkis che è,

"Il numero massimo di punti che possono essere frantumati da H [la classe di ipotesi] è chiamato Vapnik-Chervonenkis (VC) Dimensione di H, è indicato VC (H) e misura la capacità di H."

Considerando che "frantumi" indica un'ipotesi per un insieme di N punti di dati tale da separare gli esempi positivi da quelli negativi. In un tale esempio si dice che "H frantuma N punti". $h \in H$

Finora penso di capirlo. Tuttavia, gli autori mi perdono con il seguente:

"Ad esempio, quattro punti su una linea non possono essere frantumati da rettangoli."

Deve esserci un concetto qui che non capisco perfettamente, perché non riesco a capire perché sia così. Qualcuno può spiegarmi questo?

machine-learning vc-dimension

— BrotherJack
fonte

Chiama i quattro punti in ordine lungo la linea. Non v'è alcun rettangolo che contiene e ma esclude e .

p, q, r, s

$p,q,r,s$

p

$p$

r

$r$

q

$q$

s

$s$

— JeffE,

Sì, ma ci sono rettangoli che possono contenere e , esclusi e ; o contenere ed ed escludere ed . Stai dicendo che ogni combinazione deve essere possibile affinché i punti vengano frantumati, e in tal caso PERCHÉ QUESTA NON È UNA RISPOSTA: P?

p

$p$

q

$q$

r

$r$

s

$s$

q

$q$

r

$r$

p

$p$

s

$s$

— BrotherJack,

La definizione di "un insieme può essere frantumato da rettangoli" è che per ogni sottoinsieme di , c'è un rettangolo che contiene proprio quella sottoinsieme ed esclude il resto della . Equivalentemente, ogni etichettatura dei punti come positivo e negativo è coerente con almeno un'ipotesi . $P$ $P$ $P$ $H$

Ora considera quattro punti lungo una linea nel piano. Poiché non v'è alcun rettangolo che contiene e ma esclude ed , questi quattro punti non possono essere frantumate da rettangoli. $p,q,r,s$ $p$ $r$ $q$ $s$

— jeffe
fonte

Eccoci. Molto meglio avere questo come risposta, no?

— BrotherJack,