Risposte:
norme sono funzioni che accettano vettori e restituiscono numeri non negativi. Sono definiti come Nel caso in cui p = 2 , questo è chiamata la norma euclidea . È possibile definire la distanza euclidea come \ | \ vec x - \ vec y \ | _2 . Quando p = \ infty , ciò significa semplicemente \ | \ vec x \ | _ \ infty = \ sup_i x_i (o \ max_i x_i ). A rigor di termini, p deve essere almeno uno affinché \ | \ vec x \ | _p sia una norma . Se 0 <p <1 , quindi \ | \ vec x \ | _p
(Esistono anche norme , che sono definite in modo analogo, ad eccezione delle funzioni anziché dei vettori o delle sequenze - in realtà è la stessa cosa, poiché i vettori sono funzioni con domini finiti.)
Non sono a conoscenza di alcun uso per una norma in un'applicazione di apprendimento automatico in cui , tranne dove . Di solito vedi o , o talvolta dove vuoi rilassare il caso ; non è strettamente convesso in , ma è, per . Ciò può rendere la ricerca della soluzione "più semplice" in alcuni casi.
Nel contesto della regolarizzazione, se aggiungi alla tua funzione oggettiva, quello che stai dicendo è che ti aspetti che sia scarso , cioè principalmente costituito da zeri. È un po 'tecnico, ma fondamentalmente, se esiste una soluzione densa , è probabile che esista una soluzione più parsimoniosa con la stessa norma. Se ti aspetti che la tua soluzione sia densa, puoi aggiungere al tuo obiettivo, perché è molto più facile lavorare con la sua derivata. Entrambi hanno lo scopo di evitare che la soluzione abbia un peso eccessivo.
La norma mista arriva quando stai cercando di integrare diverse fonti. Fondamentalmente vuoi che il vettore della soluzione sia composto da diversi pezzi , dove è l'indice di qualche sorgente. La è solo la -norm di tutte le -norm raccolte in un vettore. Vale a dire,
Lo scopo di questo non è quello di "sovradimensionare" un insieme di soluzioni, ad esempio usando . I singoli pezzi sono sparsi, ma non rischi di nuocere un vettore di soluzione intera prendendo il -norm di tutte le soluzioni. Quindi usi invece -norm all'esterno.
Spero possa aiutare.
Vedi questo documento per maggiori dettagli.