Perché le statistiche parametriche sarebbero mai state preferite rispetto alle non parametriche?

Qualcuno può spiegarmi perché qualcuno dovrebbe scegliere un parametro parametrico piuttosto che un metodo statistico non parametrico per test di ipotesi o analisi di regressione?

Nella mia mente, è come andare per il rafting e la scelta di un orologio resistente non l'acqua, perché si potrebbe non bagnarlo. Perché non usare lo strumento che funziona in ogni occasione?

Raramente se mai un test parametrico e un test non parametrico hanno effettivamente lo stesso null. Il test parametrico sta testando la media della distribuzione, supponendo che esistano i primi due momenti. Il test di somma dei ranghi di Wilcoxon non prevede alcun momento e verifica invece l'uguaglianza delle distribuzioni. Il suo parametro implicito è una strana funzione delle distribuzioni, la probabilità che l'osservazione da un campione sia inferiore all'osservazione dall'altro. Puoi paragonare i confronti tra i due test sotto lo zero completamente specificato di distribuzioni identiche ... ma devi riconoscere che i due test stanno testando ipotesi diverse.$t$

Le informazioni fornite dai test parametrici insieme alla loro ipotesi aiutano a migliorare la potenza dei test. Naturalmente, è meglio che le informazioni siano corrette, ma al giorno d'oggi pochi sono i domini della conoscenza umana in cui tali informazioni preliminari non esistono. Un'eccezione interessante che dice esplicitamente "Non voglio assumere nulla" è l'aula di tribunale in cui i metodi non parametrici continuano ad essere ampiamente popolari - e ha perfettamente senso per l'applicazione. C'è probabilmente una buona ragione, gioco di parole, che Phillip Good autore buoni libri su entrambi statistiche non parametriche e le statistiche tribunale .

Esistono anche situazioni di test in cui non si ha accesso ai microdati necessari per il test non parametrico. Supponiamo che ti sia stato chiesto di confrontare due gruppi di persone per valutare se uno è più obeso dell'altro. In un mondo ideale, avrai misurazioni di altezza e peso per tutti e potresti formare un test di permutazione stratificando per altezza. In un mondo tutt'altro che ideale (cioè reale), potresti avere solo l'altezza media e il peso medio in ciascun gruppo (o potrebbero esserci alcuni intervalli o variazioni di queste caratteristiche in cima al mezzo campione). La tua scommessa migliore è quindi calcolare l'IMC medio per ciascun gruppo e confrontarli se hai solo i mezzi; o supponi un bivariato normale per altezza e peso se hai mezzi e varianze (probabilmente dovresti prendere una correlazione da alcuni dati esterni se non venisse fornito con i tuoi campioni),

Come altri hanno scritto: se vengono soddisfatte le condizioni preliminari, il test parametrico sarà più potente di quello non parametrico.

Nell'analogia dell'orologio, quella non resistente all'acqua sarebbe molto più accurata se non si bagnasse. Ad esempio, il tuo orologio resistente all'acqua potrebbe essere spento di un'ora in entrambi i modi, mentre quello non resistente all'acqua sarebbe accurato ... e dovrai prendere un autobus dopo il tuo viaggio in rafting. In tal caso potrebbe avere senso portare con sé l'orologio non resistente all'acqua e assicurarsi che non si bagni.

Punto bonus: i metodi non parametrici non sono sempre facili. Sì, un'alternativa al test di permutazione al test è semplice. Ma un'alternativa non parametrica a un modello lineare misto con interazioni bidirezionali multiple ed effetti casuali nidificati è un po 'più difficile da impostare rispetto a una semplice chiamata a nlme(). L'ho fatto, usando i test di permutazione e, nella mia esperienza, i valori p dei test parametrici e di permutazione sono sempre stati abbastanza vicini tra loro, anche se i residui del modello parametrico erano abbastanza non normali. I test parametrici sono spesso sorprendentemente resistenti contro le deviazioni dalle loro condizioni preliminari.

Mentre sono d'accordo sul fatto che in molti casi le tecniche non parametriche sono favorevoli, ci sono anche situazioni in cui i metodi parametrici sono più utili.

Concentriamoci sulla discussione "T-test a due campioni contro il test di somma dei ranghi di Wilcoxon" (altrimenti dovremo scrivere un libro intero).

1. Con gruppi di piccole dimensioni di 2-3, solo il test t può teoricamente raggiungere valori di p inferiori al 5%. In biologia e chimica, le dimensioni di gruppi come questo non sono rare. Naturalmente è delicato usare un test t in tale contesto. Ma forse è meglio di niente. (Questo punto è collegato al problema che, in circostanze perfette, il test t ha più potenza del test Wilcoxon).
2. Con gruppi di grandi dimensioni, anche un test t può essere considerato non parametrico grazie al Teorema del limite centrale.
3. I risultati del test t sono in linea con l'intervallo di confidenza dello studente per la differenza media.
4. Se le varianze variano notevolmente tra i gruppi, la versione di T-test di Welch cerca di tenerne conto, mentre il test di somma dei ranghi di Wilcoxon può fallire gravemente se si devono confrontare i mezzi (ad es. Probabilità di errore del primo tipo molto diverse dal livello nominale ).

Nel test di ipotesi i test non parametrici spesso testano ipotesi diverse, motivo per cui non si può sempre sostituire un test non parametrico con uno parametrico.

$y$$x$$f$$f$$f(x) = \sum_{j=1}^{p} \beta_j x_j$

I modelli semiparametrici hanno molti vantaggi. Offrono test come il test di Wilcoxon come caso speciale, ma consentono la stima di rapporti di effetto, quantili, medie e probabilità di superamento. Si estendono ai dati longitudinali e censurati. Sono robusti nello spazio Y e sono invarianti di trasformazione ad eccezione dei mezzi di stima. Vedi http://biostat.mc.vanderbilt.edu/rms link ai volantini del corso per un esempio dettagliato / case study.

$t$$Y$$Y$$X$$X_{1}$$X_{2}$. Gli esempi includono il modello di probabilità proporzionale (caso speciale: Wilcoxon e Kruskal-Wallis) e il modello di rischi proporzionali (caso speciale: test log-rank e test log-rank stratificato).

$Y$

Tra le numerose risposte fornite, vorrei anche richiamare l'attenzione sulle statistiche bayesiane. Alcuni problemi non possono essere risolti solo dalle probabilità. Un Frequentista usa un ragionamento controfattuale in cui la "probabilità" si riferisce a universi alternativi e una struttura di universo alternativa non ha senso per quanto riguarda inferire lo stato di un individuo, come la colpa o l'innocenza di un criminale, o se il collo di bottiglia della frequenza genica in un le specie esposte a un massiccio spostamento ambientale hanno portato alla sua estinzione. Nel contesto bayesiano, la probabilità è "convinzione" non frequenza, che può essere applicata a ciò che è già precipitato.

Ora, la maggior parte dei metodi bayesiani richiede di specificare completamente i modelli di probabilità per il precedente e il risultato. E la maggior parte di questi modelli di probabilità sono parametrici. Coerentemente con ciò che dicono gli altri, questi non devono essere esattamente corretti per produrre sintesi significative dei dati. "Tutti i modelli sono sbagliati, alcuni sono utili."

Esistono ovviamente metodi bayesiani non parametrici. Questi hanno molte rughe statistiche e, in generale, richiedono un uso significativo dei dati sulla popolazione.

L'unico motivo per cui sto rispondendo nonostante tutte le belle risposte di cui sopra è che nessuno ha attirato l'attenzione sul motivo numero 1 che usiamo i test parametrici (almeno nell'analisi dei dati di fisica delle particelle). Perché conosciamo la parametrizzazione dei dati. Duh! Questo è un grande vantaggio. Stai riducendo le tue centinaia, migliaia o milioni di punti dati nei pochi parametri che ti interessano e descrivono la tua distribuzione. Questi ti dicono la fisica sottostante (o qualunque sia la scienza che ti fornisce i tuoi dati).

Naturalmente, se non hai idea della densità di probabilità sottostante, non hai scelta: usa i test non parametrici. I test non parametrici hanno la virtù di mancare di preconcetti preconcetti, ma possono essere più difficili da implementare - a volte molto più difficili.

La statistica non parametrica ha i suoi problemi! Uno di questi è l'enfasi sul test delle ipotesi, spesso abbiamo bisogno di intervalli di stima e di confidenza e inserirli in modelli complicati con non parametrici è --- complicato. C'è un ottimo post sul blog su questo, con discussione, su http://andrewgelman.com/2015/07/13/dont-do-the-wilcoxon/ La discussione conduce a questo altro post, http: // notstatschat. tumblr.com/post/63237480043/rock-paper-scissors-wilcoxon-test , che è raccomandato per un punto di vista molto diverso su Wilcoxon. La versione breve è: il Wilcoxon (e altri test di rango) può portare alla non trasparenza.

Direi che le statistiche non parametriche sono più generalmente applicabili nel senso che fanno meno ipotesi rispetto alle statistiche parametriche.

Tuttavia, se si utilizza una statistica parametrica e le ipotesi sottostanti sono soddisfatte, le statistiche paramatriche saranno più potenti di quelle non parametriche.

Le statistiche parametriche sono spesso modi per incorporare conoscenze esterne [ai dati]. Ad esempio, sai che la distribuzione dell'errore è normale e questa conoscenza proviene da esperienze precedenti o da altre considerazioni e non dal set di dati. In questo caso, assumendo una distribuzione normale, si incorporano queste conoscenze esterne nelle stime dei parametri, che devono migliorare le stime.

Sull'analogia dell'orologio. Oggigiorno quasi tutti gli orologi sono resistenti all'acqua ad eccezione dei pezzi speciali con gioielli o materiali insoliti come il legno. Il motivo per indossarli è proprio questo: sono speciali. Se intendevi impermeabilità, molti orologi eleganti non sono impermeabili. Il motivo per indossarli è di nuovo la loro funzione: non indosseresti un orologio da sub con una suite e una cravatta. Inoltre, oggigiorno molti orologi hanno la parte posteriore aperta in modo da poter godere guardando il movimento attraverso il cristallo. Naturalmente, questi orologi di solito non sono impermeabili.

Questo non è uno scenario di verifica delle ipotesi, ma può essere un buon esempio per rispondere alla tua domanda: consideriamo l'analisi del clustering. Esistono molti metodi di clustering "non parametrico" come il clustering gerarchico, K-medie ecc., Ma il problema è sempre come valutare se la soluzione di clustering è "migliore", rispetto ad altre possibili soluzioni (e spesso ci sono più soluzioni possibili) . Ogni algoritmo ti dà il meglio che può ottenere, tuttavia come sai se non c'è niente di meglio ..? Ora, ci sono anche approcci parametrici al clustering, i cosiddetti cluster basati su modelli, come i modelli di miscele finite. Con FMM costruisci un modello statistico che descrive la distribuzione dei tuoi dati e li adatta ai dati. Quando hai il tuo modello, puoi valutare la probabilità con cui i tuoi dati sono dati a questo modello, puoi usare i test del rapporto di verosimiglianza, confrontare gli AIC e usare molti altri metodi per verificare l'adattamento del modello e il confronto del modello. Gli algoritmi di clustering non parametrico raggruppano solo i dati utilizzando alcuni criteri di somiglianza, mentre con l'uso di FMM ti consentono di descrivere e provare a comprendere i tuoi dati, controllare quanto è adatto, fare previsioni ... In pratica gli approcci non parametrici sono semplici, funzionano pronti all'uso e piuttosto buoni, mentre FMM può essere problematico, ma gli approcci basati su modelli spesso offrono risultati più ricchi.

Le previsioni e la previsione di nuovi dati sono spesso molto difficili o impossibili per i modelli non parametrici. Ad esempio, posso prevedere il numero di richieste di garanzia per i prossimi 10 anni utilizzando un modello di sopravvivenza Weibull o Lognormal, tuttavia ciò non è possibile utilizzando il modello Cox o Kaplan-Meier.

Modifica: vorrei essere un po 'più chiaro. Se un'azienda ha un prodotto difettoso, allora è spesso interessata a proiettare il tasso di reclamo in garanzia futuro e il CDF in base ai reclami in garanzia e ai dati di vendita correnti. Questo può aiutarli a decidere se è necessario o meno un richiamo. Non so come farlo usando un modello non parametrico.

Onestamente credo che non ci sia una risposta giusta a questa domanda. A giudicare dalle risposte fornite, il consenso è che i test parametrici sono più potenti degli equivalenti non parametrici. Non contesterò questo punto di vista, ma lo vedo più come un punto di vista ipotetico che fattuale poiché non è qualcosa di esplicitamente insegnato nelle scuole e nessun revisore dei pari ti dirà mai "il tuo documento è stato respinto perché hai usato test non parametrici". Questa domanda riguarda qualcosa a cui il mondo delle statistiche non è in grado di rispondere chiaramente ma che è scontato.

La mia opinione personale è che la preferenza sia parametrica che non parametrica ha più a che fare con la tradizione che con qualsiasi altra cosa (per mancanza di un termine migliore). Le tecniche parametriche per i test e la previsione erano lì per prime e hanno una lunga storia, quindi non è facile ignorarle completamente. La previsione, in particolare, ha alcune impressionanti soluzioni non parametriche che oggi sono ampiamente utilizzate come strumento di prima scelta. Penso che questo sia uno dei motivi per cui le tecniche di apprendimento automatico come le reti neurali e gli alberi decisionali, che non sono parametrici per natura, hanno guadagnato una popolarità diffusa negli ultimi anni.

È una questione di potere statistico. I test non parametrici hanno generalmente un potere statistico inferiore rispetto alle loro controparti parametriche.

Molte buone risposte già, ma ci sono alcuni motivi che non ho visto menzionato:

1. Familiarità. A seconda del pubblico, il risultato parametrico può essere molto più familiare di un non parametrico approssimativamente equivalente. Se i due danno conclusioni simili, allora la familiarità è buona.

2. Semplicità. A volte, il test parametrico è più semplice da eseguire e da segnalare. Alcuni metodi non parametrici richiedono molto computer. Naturalmente, i computer sono diventati molto più veloci e anche gli algoritmi sono migliorati, ma .... i dati sono diventati "più grandi".

   3. A volte ciò che di solito è uno svantaggio del test parametrico è in realtà un vantaggio, sebbene questo sia specifico per particolari coppie di test. Ad esempio, sono, generalmente, un fan della regressione quantile in quanto fa meno ipotesi rispetto ai soliti metodi. Ma a volte è davvero necessario stimare la media, piuttosto che la mediana.