Il libro "Introduzione all'apprendimento automatico" di Ethem Alpaydın afferma che la dimensione VC di un rettangolo allineato agli assi è 4. Ma come può un rettangolo frantumare un insieme di quattro punti collineari con punti positivi e negativi alternati ??
Qualcuno può spiegare e dimostrare la dimensione VC di un rettangolo?
Risposte:
tl; dr: la definizione della dimensione VC è errata.
La dimensione VC dei rettangoli è la cardinalità dell'insieme massimo di punti che può essere frantumato da un rettangolo.
La dimensione VC dei rettangoli è 4 perché esiste un set di 4 punti che può essere frantumato da un rettangolo e qualsiasi set di 5 punti non può essere frantumato da un rettangolo. Quindi, mentre è vero che un rettangolo non può frantumare un insieme di quattro punti collineari con positivo e negativo alternati, la dimensione VC è ancora 4 perché esiste una configurazione di 4 punti che può essere frantumata.
La dimensione VC di un algoritmo è quel numero massimo di punti tale che
esiste una disposizione dei punti tale che
per tutte le etichette di quei punti, l'algoritmo non fa errori
E in effetti, c'è una disposizione di quattro punti (come un diamante) in modo tale che un rettangolo possa dividere qualsiasi insieme di punti positivi dagli altri. Che esista un layout di quattro punti in cui il rettangolo fallirà è irrilevante.
Consideralo come un gioco tra te e un avversario. Scegli la posizione dei punti e l'avversario li etichetta comunque gli piace. Se vince trovando un'etichettatura che non può essere frantumata, la dimensione VC è inferiore al numero di punti ma se si vince la dimensione VC è uguale o maggiore del numero di punti. Nella tua domanda, non sei obbligato a selezionare quella disposizione, puoi trovare una migliore disposizione dei punti, che ti consente di vincere.