Complessità di query computazionale dell'apprendimento SQ


12

È noto che per l'apprendimento PAC, esistono classi concettuali naturali (ad esempio sottoinsiemi di elenchi di decisioni) per le quali vi sono lacune polinomiali tra la complessità del campione necessaria per l'apprendimento teorico delle informazioni da parte di uno studente computazionalmente illimitato e la complessità del campione richiesta da un polinomio- studente del tempo. (vedi ad esempio http://portal.acm.org/citation.cfm?id=267489&dl=GUIDE o http://portal.acm.org/citation.cfm?id=301437 )

Questi risultati sembrano dipendere dalla codifica di un segreto in esempi particolari, tuttavia, e quindi non si traducono naturalmente nel modello di apprendimento SQ, in cui lo studente deve solo interrogare le proprietà statistiche della distribuzione.

È noto se esistono classi concettuali per le quali l'apprendimento teorico delle informazioni nel modello SQ è possibile con le query O (f (n)), ma l'apprendimento computazionalmente efficiente è possibile solo con le query Omega (g (n)) per g (n ) >> f (n)?

Risposte:


9

Ho posto (me stesso) questa domanda qualche tempo fa. Almeno per l'apprendimento rispetto a una distribuzione specifica c'è un esempio abbastanza semplice di una classe di concetti che è teoricamente informazioni apprendibili da SQ ma NP è difficile da apprendere da SQ. Sia \ phi una codifica binaria di un'istanza SAT e sia la sua assegnazione soddisfacente dal punto di vista lessicografico (o 0 ^ n è l'istanza insoddisfacente). Ora f (\ phi) è una funzione che oltre la metà del dominio è il MAJ (\ phi) e che nella seconda metà del dominio è uguale a PAR (y). Qui MAJ è la funzione di maggioranza sulle variabili che sono impostate su 1 nella stringa \ phi e PAR (y) è la funzione di parità sulle variabili che sono impostate su 1 nella stringa y. Sia F la classe di funzioni ottenute in questo modo. Per SQ impara F sulla distribuzione uniforme U devi solo imparare le maggioranze (che è facile) per trovare \ phi e poi trovare y. D'altra parte, è abbastanza facile ridurre l'apprendimento da SAT a SQ di F (con una precisione notevolmente maggiore di 3/4) sulla distribuzione uniforme. La ragione di ciò, naturalmente, è che le parità sono essenzialmente "invisibili" agli SQ e quindi è necessario risolvere il SAT per imparare F.


5

Questa è una bella domanda Il potere del modello di query statistica è proprio la capacità di dimostrare limiti inferiori incondizionati per l'apprendimento con SQ - ad esempio, la parità non è apprendibile con un numero polinomiale di query statistiche.

Non sono a conoscenza dei risultati del modulo che chiedi, ma forse ci manca qualcosa di ovvio ...

Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.