Cosa significa "altamente non lineare"?

27

Ho letto spesso di una funzione "altamente non lineare". Nella mia comprensione, c'è "lineare" e "non lineare", quindi di cosa si tratta "altamente"? C'è una differenza formale da non lineare? Come viene definito?

terminology nonlinear mathematical-statistics

— Toby El Tejedor
fonte

8

Informalmente: "Non aspettarti di essere in grado di mappare facilmente le modifiche in input per modificarle in output".

— Keshlam,

2

Hai letto questo in un articolo su Deep Learning? L'approssimazione di funzioni altamente non lineari è una delle motivazioni dell'apprendimento profondo perché una rete superficiale fa fatica a modellare il tipo di cose che Joe descrive nella sua risposta.

— Neil G,

1

Direi che dipende da dove l'hai letto. Se questo è scritto da persone esperte di matematica, allora potrebbe significare ciò che le risposte qui (finora) forniscono. Se è stato scritto da un professionista, come un medico o un biologo, potrebbe significare che la relazione non è semplice, ma altamente curva. Nella mia esperienza, molte persone pensano che la regressione lineare si riferisca all'adattamento di linee rette ai dati, che potrebbero essere parte della fonte della confusione.

— Roman Luštrik,

No, non ho fatto @NeilG.

— Toby El Tejedor,

1

Non è un termine definito singolarmente - un fisico tenderà ad assumere un significato abbastanza diverso dal termine di quanto farebbe un crittografo. Senza più contesto, non è possibile rispondere correttamente a questa domanda: indovineremo il contesto (o dovremmo tenere conto di ognuno di essi).

— Glen_b

44

Non penso che ci sia una definizione formale. Ho l'impressione che significhi semplicemente che non solo non è lineare, ma il tentativo di modellarlo con un'approssimazione lineare non produrrà risultati ragionevoli e potrebbe persino causare instabilità nel metodo di adattamento. Qualcuno può anche usarlo per indicare semplicemente che piccoli cambiamenti nell'input possono comportare cambiamenti nell'output contro-intuitivamente grandi.

— Wayne
fonte

2

(+1) per offrire un criterio / contenuto molto ragionevole per "altamente non lineare" (tale approssimazione lineare può peggiorare le cose).

— Alecos Papadopoulos,

16

In senso formale, credo che si possa dire che la seconda derivata differisce sostanzialmente da zero. Se 0 fosse un'approssimazione "ragionevole" della seconda derivata sul dominio di interesse, è vicino alla lineare, ma se non lo è, gli effetti non lineari diventano molto importanti da catturare.

Raramente ho sentito termini come questo applicati a polinomi relativamente semplici, spesso in uso pratico sembra applicarsi a sistemi dinamici divergenti (tipo di cose della teoria del caos), o funzioni molto non lisce (dove derivati molto più elevati di ordine sono diversi da zero ).

— Joe
fonte

3

A proposito, "liscio" è davvero un termine tecnico, nel senso che esiste ogni derivato. x -> e^xè regolare anche se i suoi derivati di tutti gli ordini sono ovunque diversi da zero :-)

— Steve Jessop,

10

L'aspetto importante che manca alle altre risposte eccellenti è il dominio . Ad esempio, è $f(x)=x^2$

altamente non lineare su ma $[-10;10]$
non su nessuna metà del dominio (cioè su entrambi e è possibile usare un'approssimazione lineare di senza un disastro immediato). $[-10;0]$ $[0;10]$ $f$

Un altro esempio è che è $f(x)=x^3-x$

altamente non lineare su ma $[-1;1]$
non nel dominio più grande $[-10;;10]$

— sds
fonte

Non sono d'accordo su

. È sempre altamente non lineare intorno a 0. Considera

, dove

. Come è lineare per te? Non ha nemmeno un termine lineare (ovviamente), non può essere approssimato linearmente affatto.

x^{2}

$x^2$

x = [0.1, 0.2, 0.3]

$x =[0.1,0.2,0.3]$

f (x) = [0.01, 0.04, 0.09]

$f(x)=[0.01,0.04,0.09]$

— Aksakal,

3

@Aksakal: la funzione non è certamente lineare (da nessuna parte), ma, come ho detto, "si può usare un'approssimazione lineare di f senza un disastro immediato"

— sds

1

Ogni funzione può essere approssimata da una linea, è solo una questione di quanto sia approssimativa l'approssimazione. E in x \ in [0, 0,5], l'errore non è poi così grave.

— Joe,

8

Come altri hanno già detto, non penso che ci sia una definizione formale. Lo definirei come una funzione che non può essere approssimata linearmente nell'intervallo tipico di disturbi dell'argomento. Ad esempio, hai e . Quindi se l'approssimazione interrompe, allora è altamente non lineare. Ad esempio, $y=f(x)$ $\sigma^2=var[x]$ $f(x+\sigma)\approx f(x)+f'(x)\sigma$ $f(x)=exp(x^2)$ $x$ $1+x^2+x^4/2+O(x^5)$

— Aksakal
fonte

1

Informalmente ... "altamente non lineare" significa "anche un cieco può vedere che non è una linea retta!" ;) Personalmente lo prendo come un segnale di pericolo, che in qualche modo "esploderà in faccia" se usato con esempi del mondo reale.

La Torre di Hanoi potrebbe essere definita un esempio di altamente non lineare ... la leggenda è che quando i monaci finiscono uno stack da 64 dischi, il mondo finirà. Se conti il tempo totale dedicato all'allenamento, all'alimentazione, all'alloggio e alla motivazione di tutti a sostenere un compito multi-generazionale inutile, ingrato e noioso, mi aspetterei che il costo totale nelle ore uomo scendesse davvero!

— iheggie
fonte

1

Come matematico professionista posso confermare che "altamente non lineare" non è un termine matematico definito con precisione. :)

E nessuno di "qualsiasi cosa" mi viene in mente.

Il non lineare è preciso e opposto al lineare (ovviamente).

Ma lineare si presenta in due significati diversi:

$f(x) = ax+b$ si chiama funzione lineare
unica funzione $f(x) = ax$ (senza termine costante $b$ ) si chiama lineare

Per sottolineare la differenza e la presenza del termine costante, la prima funzione $(ax + b)$ è anche chiamato affine

— Dmitri Zaitsev
fonte

1

Fino ad ora, questa è l'unica risposta, sarò d'accordo;) (+1) per essere vecchia scuola!

— Raaja,