Perché il fattore az 1 viene trasformato in 0.999998 nella mia uscita

Ho appena creato un modello che utilizza 3D Analyst - Surface Volume. Sto cercando di utilizzare un fattore az di 1. Ogni volta che eseguo il modello, la mia tabella di output mostra che è stato usato un fattore Z di 0.999998 invece di 1. So che questa è una differenza molto piccola, ma anche così, sta distorcendo i miei risultati. Davvero quello che vorrei sapere, c'è una buona spiegazione del perché viene cambiato in 0.999998 o c'è un modo per farlo rimanere a 1?

Grazie ancora per il tuo contributo. Quando ho provato a cambiare il tipo di raster, lo strumento disegna insieme il fattore z e lo blocca a 0.999998. Quindi ... Immagino che non ci sia davvero alcun modo per aggirare questo usando dati interi o in virgola mobile. Ho anche provato a convertire in numeri interi e usando il calcolatore raster per moltiplicare i dati per 1000 per preservare i decimali in forma intera, ma ero ancora bloccato con il fattore z 0.999998. Niente da fare.

— GeoJohn
fonte

Direi che è un punto mobile, non esiste nulla come 1 in float - vedi en.wikipedia.org/wiki/IEEE_floating_point

— Michael Stimson,

Sì, il fattore Z è un virgola mobile poiché la maggior parte dei raster DEM / DSM sono di solito a virgola mobile a 32 bit. Prova a convertire il tuo int raster in float anche vedi resources.arcgis.com/en/help/main/10.1/index.html#//…

— Michael Stimson,

@Michael In realtà, qualsiasi numero che non sia un multiplo integrale di una piccola potenza di 2 (inclusi i poteri negativi) non sarà espresso esattamente in virgola mobile. Forse il più importante di questi sarebbe 0,1. Per quanto riguarda l'origine dell'errore della scala z, posso solo immaginare. La mia ipotesi si focalizzerebbe sulla possibilità che sotto il cofano, i calcoli potrebbero essere eseguiti usando una rappresentazione intera delle quote e alla fine questi vengono riconvertiti. Forse la cosa migliore è correggere i risultati dopo che sono stati prodotti: basta moltiplicare tutti i volumi per 1 / 0.999998.

— whuber

@Michael prima di scegliere questa altra soluzione, ho anche provato a utilizzare un fattore z di 1.000002 che si sarebbe magicamente trasformato in 0.999998 durante l'esecuzione dello strumento. Quindi, non sono sicuro che fosse qualcosa che stavo facendo di sbagliato o no. In altre parole, indipendentemente dal fattore z che immetterei, lo strumento lo cambierebbe in 0.999998 in fase di esecuzione.

— GeoJohn,

John, sento che è tempo di contattare il supporto Esri e chiedere loro perché cambia sempre in fattore di scala 0.999998 e come usare un fattore di scala di 1.

— Michael Stimson

Devo essere d'accordo con i commenti, è su come si desidera rappresentare quel numero. Se si desidera memorizzare il numero 1 come virgola mobile, ArcGIS ha memorizzato questo numero come 0,9999 ... Sembra che questo argomento del fattore Z sia memorizzato in questo modo. Penso che non ci sia modo di memorizzarlo come intero. In effetti, 0,9999 è uguale a 1.

Devo aggiungere una foto che ho visto qualche giorno fa. Si adatta a questa domanda.

— david_p
fonte