Usare la formula pitagorica su posizioni date in latitudine e longitudine ha poco senso come, diciamo, calcolare l'area di un cerchio usando la formula per un quadrato: sebbene produca un numero, non c'è motivo di supporre che dovrebbe funzionare.
Sebbene su piccola scala qualsiasi superficie liscia assomigli ad un piano, l'accuratezza della formula di Pitagora dipende dalle coordinate utilizzate. Quando quelle coordinate sono latitudine e longitudine su una sfera (o ellissoide), possiamo aspettarci che
Le distanze lungo le linee di longitudine saranno ragionevolmente precise.
Le distanze lungo l'equatore saranno ragionevolmente precise.
Tutte le altre distanze saranno errate, in proporzione approssimativa alle differenze di latitudine e longitudine.
L'errore dipende dal punto iniziale e finale dei calcoli della distanza. Tuttavia, poiché sia la sfera che l'ellissoide hanno una simmetria circolare attorno all'asse, l'errore dipende solo dalla differenza delle longitudini, quindi per studiare questo errore potremmo anche prendere il punto di origine per essere al Primo Meridiano. Poiché sia la sfera che l'ellissoide sono simmetrici sotto una riflessione nord-sud, dobbiamo solo studiare i punti di origine nell'emisfero meridionale. Per tale punto possiamo disegnare una mappa di contorno dell'errore relativo, uguale a [calcolo pitagorico] / [distanza reale].
La formula di Pitagora, usando il raggio medio della terra, è
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
dove dx è la differenza di longitudini e dy è la differenza di latitudini, sia in gradi. (La differenza nei valori di longitudine è ridotta modulo 360 per dare il valore corretto di dx quando si attraversa l'antimeridiano; non farlo introdurrebbe errori artificialmente grandi che non ci dicono nulla della stessa formula pitagorica.)
I grafici seguenti mostrano l'errore relativo rispetto alla distanza corretta sull'ellissoide WGS 84 per latitudini da -70 a 0 con incrementi di 10 gradi. La coordinata orizzontale è la differenza in longitudini e la coordinata verticale è la latitudine della destinazione. Le regioni chiare presentano un errore relativamente piccolo: le linee di contorno sono 1, 1,01, 1,02, 1,05, 1,1, 1,2, 1,5, 2, ecc. (Le aree bianche pure negli angoli sono punti in cui l'errore va oltre l'intervallo di questi contorni .) I punti rossi mostrano il punto di origine.
Le bande bianche verticali testimoniano la correttezza dell'aspettativa (1): le distanze pitagoriche sono precise quando c'è una piccola differenza nelle lunghezze. Le bande bianche orizzontali a basse latitudini confermano le aspettative (2): vicino all'equatore, le distanze orizzontali sono ragionevolmente precise. Altrimenti, come testimoniano le estese regioni più scure, a tutte le altre distanze la formula di Pitagora è cattiva.
Possiamo fare stime quantitative del massimoerrore raggiunto per coppie di punti vicini (entro, diciamo, a poche centinaia di chilometri l'uno dall'altro). La scala - usando un valore appropriato per il raggio - è vera lungo il meridiano, ma lungo un cerchio di latitudine erroneamente approssimativamente dal secante della latitudine. Ad esempio, a una latitudine di 40 gradi la secante è 1,31, il che implica che la formula di Pitagora fornirà distanze circa il 31% troppo grandi nella direzione est-ovest. (Ciò è evidente nel grafico di contorno in alto a destra, per un punto di origine a -40 gradi di latitudine, dove la regione immediatamente est-ovest del punto rosso si trova tra i contorni 1.2 e 1.5.) Le brevi distanze in tutte le altre direzioni saranno troppo grande di un certo importo tra lo 0% e il 31%; distanze più lunghe possono errare ancora di più (come mostrano i grafici di contorno).