Nell'apprendimento automatico, perché vengono usati gli apici al posto degli abbonamenti?

Sto seguendo il corso di Andrew Ng sull'apprendimento automatico attraverso Coursera . Per le equazioni, al posto degli pedici vengono utilizzati apici. Ad esempio, nella seguente equazione viene utilizzato $x^{(i)}$ anziché : $x_i$

$J(\theta_0, \theta_1) = \frac{1}{2m} \sum\limits_{i=1}^{m}{(h_\theta(x^{(i)}) - y^{(i)})^2}$

Apparentemente, questa è una pratica comune. La mia domanda è: perché usare gli apici invece dei pedici? Gli apice sono già utilizzati per l'espiazione. Certo, mi sembra di essere in grado di chiarire le differenze tra i casi d'uso in apice e esponenziale prestando attenzione alla presenza o meno di parentesi, ma sembra comunque confuso.

machine-learning notation

— entpnerd
fonte

Ho il sospetto che forse sia perché alcune persone di informatica non sono esperte nella notazione matematica standard, e quindi formano la propria notazione. A volte anche gli attuari lo fanno, ed è frustrante quando si arriva a concetti più complicati.

— rocinante,

L' iindicizzazione si basa sulla dimensione del set di dati o sugli elementi del vettore x? Se il primo, è totalmente standard. Se quest'ultimo è totalmente non standard. E il motivo per cui viene usato l'apice è perché a volte si desidera fare riferimento all'elemento del vettore usando il pedice.

— Rex Kerr,

@rocinante lol no, è perché gli indici sono già presi per indicizzare i vettori.

— Neil G

@rocinante È piuttosto presuntuoso. Che dire di vettori / notazione di Einstein contraddittori ?

— Will Vousden

@rocinante Devo fare eco agli altri nel sottolineare che la tua formulazione è sfortunata. Tutti abbiamo la tendenza a considerare ciò che è locale e familiare come standard.

— Nick Cox,

Risposte:

Se denota un vettore allora è una notazione standard per l' -esima coordinata , cioè $x$ $x \in \mathbb R^m$ $x_i$ $i$ $x$

x = (x_{1}, x_{2}, \dots, x_{m}) \in R^{m} .

$x = (x_1, x_2, \ldots, x_m)\in\mathbb R^m.$

Se si dispone di una raccolta di tali vettori, come si indica un -vettore? Non si può scrivere , questo non ha altro significato standard. Quindi a volte le persone scrivono ed è per questo che credo perché Andrew Ng lo faccia. $n$ $i$ $x_i$ $x^{(i)}$

x^{(1)} = (x_{1}^{(1)}, x_{2}^{(1)}, \dots, x_{m}^{(1)}) \in R^{m} x^{(2)} = (x_{1}^{(2)}, x_{2}^{(2)}, \dots, x_{m}^{(2)}) \in R^{m} \dots x^{(n)} = (x_{1}^{(n)}, x_{2}^{(n)}, \dots, x_{m}^{(n)}) \in R^{m} .

$\begin{equation} x^{(1)} = (x_1^{(1)}, x_2^{(1)}, \ldots, x_m^{(1)}) \in \mathbb R^m\\ x^{(2)} = (x_1^{(2)}, x_2^{(2)}, \ldots, x_m^{(2)}) \in \mathbb R^m\\ \ldots \\ x^{(n)} = (x_1^{(n)}, x_2^{(n)}, \ldots, x_m^{(n)}) \in \mathbb R^m.\\ \end{equation}$

— ameba dice Reinstate Monica
fonte

Non sono in disaccordo, ma spesso viene usato

, ovvero per misurazioni ripetute.

x_{i j}

$x_{ij}$

— Cliff AB,

Sì, ma

è equivalente alla mia

; quale sarebbe l'equivalente di

x_{i j}

$x_{ij}$

x_{j}^{(i)}

$x^{(i)}_j$

x^{(i)}

$x^{(i)}$

— ameba dice di reintegrare Monica il

sì, questo è un vantaggio. Penso

viene utilizzato a volte, ma potrebbe essere confuso con

x_{i .}

$x_{i.}$

\sum_{j = 1}^{n} x_{i j} / m

$\sum_{j= 1}^n x_{ij}/m$

— Cliff AB,

Se desideri scorrere le matrici, allora

sembra il modo più intuitivo per farlo. Pertanto la notazione rimane coerente quando si passa da vettori a matrici.

x_{m n}^{(i)}

$x_{mn}^{(i)}$

— josh

@JAB Sì, è per rendere la notazione più esplicita ("tipo di suggerimento" come dici tu). Naturalmente si può concordare di usare

per l'

-esimo vettore e

per l' elemento

- esimo

-vettore. Sono possibili varie convenzioni, questa è solo una di queste. Non sto nemmeno dicendo che è il migliore, spiegando solo la logica alla base.

x_{i}

$x_i$

i

$i$

x_{i j}

$x_{ij}$

j

$j$

i

$i$

— ameba dice di reintegrare Monica il

L'uso di super script come hai affermato credo non sia molto comune nella letteratura sull'apprendimento automatico. Dovrei rivedere gli appunti del corso di Ng per confermare, ma se ci mette quell'uso, direi che sarebbe l'origine della proliferazione di questa notazione. Questa è una possibilità Ad ogni modo, per non essere troppo scortese, ma non credo che molti studenti del corso online stiano pubblicando letteratura sull'apprendimento automatico, quindi questa notazione non è molto comune nella letteratura attuale. Dopotutto, si tratta di corsi introduttivi sull'apprendimento automatico, non di corsi di dottorato.

Ciò che è molto comune con i super script è denotare l'iterazione di un algoritmo usando i super script. Ad esempio, potresti scrivere un'iterazione del metodo di Newton come

$\theta^{(t+1)} = \theta^{(t)} - H(\theta^{(t)}) ^{-1} \nabla \theta^{(t)}$

$H(\theta^{(t)})$ $\nabla \theta^{(t)}$

(... sì, questo non è proprio il modo migliore per implementare il metodo di Newton a causa dell'inversione della matrice dell'Assia ...)

$\theta^{(t)}$ $\theta$ $t^{th}$

$x^{(i)}$ $x_i$ $x^{(i)}$ $i^{th}$ $x$

— Cliff AB
fonte

Lo scontro con l'uso di apici tra parentesi / parentesi per i conteggi delle iterazioni (una notazione che è di uso comune in una vasta gamma di aree) è una cosa davvero importante da sollevare.

— Glen_b -Restate Monica

È anche comunemente usato per indicare l'indice del campione nel set di allenamento, che è come l'iterazione ma non è esattamente lo stesso perché di solito finisci per iterare attraverso il tuo set di allenamento molte volte.

— Rex Kerr,

a_{n + 1} = a_{n} + 1

$a_{n+1} = a_n + 1$

a (n + 1) = a (n) + 1

$a(n+1) = a(n) + 1$

(x > 0)

$(x > 0)$

I (x > 0)

$I(x > 0)$

@NickCox In genere vedo solo l'

I (x > 0)

$I(x > 0)$

x > 0

$x > 0$

=

$=$ ===

Gli apice sono già utilizzati per l'espiazione.

In matematica gli apice vengono utilizzati a destra e sinistra a seconda del campo. La scelta è sempre eredità storica, niente di più. Chiunque fosse entrato per la prima volta nel campo, stabiliva la convenzione di usare sottotitoli o apice.

$f(x)^{(n)}$

In tensore algebra sia super e gli indici sono utilizzati pesantemente per la stessa cosa come potuto dire righe e colonne. È abbastanza espressivo: $R^i_i$ $i$ $j$ $T_i^k=R_i^jC_j^k$

$^i_jB_k^l$

Quindi, anche la scelta di apici di Ng è puramente storica. Non c'è alcun motivo reale per usarli o non usarli o preferirli agli abbonati. In realtà, credo che qui le persone con ML stiano usando la notazione tensoriale. Sicuramente hanno una buona conoscenza dell'argomento, ad esempio vedere questo documento.

— Aksakal
fonte

Un altro esempio per il tuo punto: notazione di Einstein

— Neil G