Quando (se mai) è una buona idea fare un'analisi di potenza post hoc?


12

La mia comprensione è che un'analisi di potenza è post hoc se e solo se utilizza la dimensione dell'effetto osservato come dimensione dell'effetto della popolazione target.

Risposte:


7

Nel mio campo vedo persone che eseguono analisi di potenza post-hoc quando lo scopo del documento è quello di dimostrare che alcuni effetti che ci si potrebbe aspettare di essere presenti (o a causa di letteratura precedente, buon senso, ecc.) Non lo sono, almeno secondo a qualche test di significatività.

Tuttavia, in queste situazioni, il ricercatore è un po 'in difficoltà - potrebbe aver ottenuto un risultato non significativo o perché l'effetto non è realmente presente nella popolazione o perché lo studio non è stato sufficientemente potenziato per rilevare il effetto anche se fosse presente. Lo scopo dell'analisi di potenza, quindi, è quello di mostrare che, dato anche un effetto banalmente piccolo sulla popolazione, lo studio avrebbe avuto un'alta probabilità di rilevare tale effetto.

Per un esempio concreto di questo uso dell'analisi di potenza post-hoc, vedere questo documento collegato.


1
Sembra certamente ragionevole. In base alla tua risposta, concluderei che a volte c'è una buona ragione per fare analisi di potenza post hoc. Questo a meno che non esista un metodo superiore per dimostrare che dato anche un effetto banalmente piccolo sulla popolazione, uno studio avrebbe un'alta probabilità di rilevare tale effetto. Conosci un tale metodo?
user1205901 - Ripristina Monica

Penso che questo metodo sia precisamente un'analisi di potenza post-hoc. Suppongo che un metodo alternativo potrebbe essere l'uso dei metodi bayesiani invece dei test di ipotesi di Pearson, ma nel mio campo (psicologia), il test di ipotesi di Pearson è ancora il paradigma statistico dominante.
Patrick S. Forscher,

C'è un grosso problema con l'approccio descritto. I mezzi sono sempre diversi a causa della variazione del campionamento, quindi praticamente ogni test sarebbe in grado di rilevare anche un effetto banalmente piccolo dato un campione grande (aumentare la tua n a 99999999999 e tutto potrebbe essere significativo). Inoltre, nel caso di un'ipotesi respinta, non sono abbastanza sicuro, ma è probabile che il "potere ottenuto" sarà <0,5 sempre (o, il più delle volte, almeno). Quindi, porterebbe sempre alla conclusione che il campione non era abbastanza.
Bruno,

Bruno, la tua affermazione non è vera a meno che l'effetto della popolazione sia diverso da zero. Se l'effetto della popolazione è zero, allora sì, otterrai piccole fluttuazioni nell'effetto osservato, ma saranno piccole e completamente descritte dalla distribuzione campionaria del parametro di interesse, portando a un effetto significativo a un tasso determinato daα
Patrick S. Forscher,

4

Puoi sempre calcolare la probabilità che uno studio avrebbe prodotto un risultato significativo per una determinata dimensione dell'effetto a priori. In teoria, ciò dovrebbe essere fatto prima di condurre uno studio perché non ha senso condurre uno studio a bassa potenza che ha una bassa probabilità di produrre un risultato significativo quando è presente un effetto. Tuttavia, puoi anche calcolare la potenza dopo lo studio per rendersi conto che uno studio aveva una bassa potenza o, probabilmente, un'alta potenza per rilevare anche un piccolo effetto.

Il termine potenza post-hoc o osservata viene utilizzato per l'analisi della potenza che utilizza le dimensioni degli effetti osservati in un campione per calcolare la potenza presupponendo che la dimensione dell'effetto osservato sia una stima ragionevole della dimensione dell'effetto reale. Molti statistici hanno sottolineato che il potere osservato in un singolo studio non è molto informativo perché le dimensioni dell'effetto non sono stimate con sufficiente precisione per essere informative. Più recentemente, i ricercatori hanno iniziato a esaminare il potere osservato per una serie di studi per esaminare in media quanto siano potenti gli studi e se gli studi riportano risultati più significativi di quanto il potere effettivo degli studi giustificherebbe.

https://replicationindex.wordpress.com/tag/observed-power/


Quindi, @ Dr-r, come si potrebbe fare riferimento al primo tipo di studio menzionato? C'è un nome corretto per quello? Ho usato la funzione "post hoc" di G * Power, eppure ho usato la dimensione dell'effetto a priori. La ragione per cui lo sto facendo è che, all'inizio, ho pianificato di usare una differenza media "indovinata" e una deviazione standard "indovinata", e differivano molto da quelle ottenute. Inoltre, non sono riuscito a raggiungere la dimensione del campione pianificata in entrambi i gruppi. Non voglio usare il termine "post hoc" nel mio documento perché le persone potrebbero sbagliare. Quindi, hai qualche suggerimento?
Bruno,
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.