Cosa può spiegare l'overhead dell'utilizzo di const in questo caso?

9

Sto sbattendo la testa contro il muro qui, quindi spero che alcuni di voi possano essere in grado di educarmi. Stavo facendo alcuni benchmark delle prestazioni usando BenchmarkDotNet e mi sono imbattuto in questo strano caso in cui sembra che dichiarare un membro constdegrada notevolmente le prestazioni.

using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
using System;

namespace PerfTest
{
    [DisassemblyDiagnoser(printAsm: true, printSource: true)]
    public class Test
    {
        private int[] data;
        private int Threshold = 90;
        private const int ConstThreshold = 90;

        [GlobalSetup]
        public void GlobalSetup()
        {
            data = new int[1000];
            var random = new Random(42);
            for (var i = 0; i < data.Length; i++)
            {
                data[i] = random.Next(100);
            }
        }

        static void Main(string[] args)
        {
            var summary = BenchmarkRunner.Run<Test>();
        }

        [Benchmark(Baseline = true)]
        public void ClampToMemberValue()
        {
            for (var i = 0; i < data.Length; i++)
            {
                if (data[i] > Threshold) data[i] = Threshold;
            }
        }

        [Benchmark]
        public void ClampToConstValue()
        {
            for (var i = 0; i < data.Length; i++)
            {
                if (data[i] > ConstThreshold) data[i] = ConstThreshold;
            }
        }
    }
}

Si noti che l'unica differenza tra i due metodi di test è se si confrontano con una variabile membro normale o un membro const.

Secondo BenchmarkDotNet l'uso del valore const è significativamente più lento e non capisco perché.

BenchmarkDotNet=v0.11.5, OS=Windows 10.0.18362
Intel Core i7-5820K CPU 3.30GHz (Broadwell), 1 CPU, 12 logical and 6 physical cores
.NET Core SDK=3.0.100
  [Host]     : .NET Core 3.0.0 (CoreCLR 4.700.19.46205, CoreFX 4.700.19.46214), 64bit RyuJIT
  DefaultJob : .NET Core 3.0.0 (CoreCLR 4.700.19.46205, CoreFX 4.700.19.46214), 64bit RyuJIT


|             Method |     Mean |    Error |   StdDev | Ratio |
|------------------- |---------:|---------:|---------:|------:|
| ClampToMemberValue | 590.4 ns | 1.980 ns | 1.852 ns |  1.00 |
|  ClampToConstValue | 724.6 ns | 4.184 ns | 3.709 ns |  1.23 |

Guardare il codice compilato JIT non lo spiega per quanto posso dire. Ecco il codice per i due metodi. L'unica differenza è se il confronto viene effettuato con un registro o un valore letterale.

00007ff9`7f1b8500 PerfTest.Test.ClampToMemberValue()
            for (var i = 0; i < data.Length; i++)
                 ^^^^^^^^^
00007ff9`7f1b8504 33c0            xor     eax,eax
            for (var i = 0; i < data.Length; i++)
                            ^^^^^^^^^^^^^^^
00007ff9`7f1b8506 488b5108        mov     rdx,qword ptr [rcx+8]
00007ff9`7f1b850a 837a0800        cmp     dword ptr [rdx+8],0
00007ff9`7f1b850e 7e2e            jle     00007ff9`7f1b853e
00007ff9`7f1b8510 8b4910          mov     ecx,dword ptr [rcx+10h]
                if (data[i] > Threshold) data[i] = Threshold;
                ^^^^^^^^^^^^^^^^^^^^^^^^
00007ff9`7f1b8513 4c8bc2          mov     r8,rdx
00007ff9`7f1b8516 458b4808        mov     r9d,dword ptr [r8+8]
00007ff9`7f1b851a 413bc1          cmp     eax,r9d
00007ff9`7f1b851d 7324            jae     00007ff9`7f1b8543
00007ff9`7f1b851f 4c63c8          movsxd  r9,eax
00007ff9`7f1b8522 43394c8810      cmp     dword ptr [r8+r9*4+10h],ecx
00007ff9`7f1b8527 7e0e            jle     00007ff9`7f1b8537
                if (data[i] > Threshold) data[i] = Threshold;
                                         ^^^^^^^^^^^^^^^^^^^^
00007ff9`7f1b8529 4c8bc2          mov     r8,rdx
00007ff9`7f1b852c 448bc9          mov     r9d,ecx
00007ff9`7f1b852f 4c63d0          movsxd  r10,eax
00007ff9`7f1b8532 47894c9010      mov     dword ptr [r8+r10*4+10h],r9d
            for (var i = 0; i < data.Length; i++)
                                             ^^^
00007ff9`7f1b8537 ffc0            inc     eax
00007ff9`7f1b8539 394208          cmp     dword ptr [rdx+8],eax
00007ff9`7f1b853c 7fd5            jg      00007ff9`7f1b8513
        }
        ^
00007ff9`7f1b853e 4883c428        add     rsp,28h

e

00007ff9`7f1a8500 PerfTest.Test.ClampToConstValue()
            for (var i = 0; i < data.Length; i++)
                 ^^^^^^^^^
00007ff9`7f1a8504 33c0            xor     eax,eax
            for (var i = 0; i < data.Length; i++)
                            ^^^^^^^^^^^^^^^
00007ff9`7f1a8506 488b5108        mov     rdx,qword ptr [rcx+8]
00007ff9`7f1a850a 837a0800        cmp     dword ptr [rdx+8],0
00007ff9`7f1a850e 7e2d            jle     00007ff9`7f1a853d
                if (data[i] > ConstThreshold) data[i] = ConstThreshold;
                ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
00007ff9`7f1a8510 488bca          mov     rcx,rdx
00007ff9`7f1a8513 448b4108        mov     r8d,dword ptr [rcx+8]
00007ff9`7f1a8517 413bc0          cmp     eax,r8d
00007ff9`7f1a851a 7326            jae     00007ff9`7f1a8542
00007ff9`7f1a851c 4c63c0          movsxd  r8,eax
00007ff9`7f1a851f 42837c81105a    cmp     dword ptr [rcx+r8*4+10h],5Ah
00007ff9`7f1a8525 7e0f            jle     00007ff9`7f1a8536
                if (data[i] > ConstThreshold) data[i] = ConstThreshold;
                                              ^^^^^^^^^^^^^^^^^^^^^^^^^
00007ff9`7f1a8527 488bca          mov     rcx,rdx
00007ff9`7f1a852a 4c63c0          movsxd  r8,eax
00007ff9`7f1a852d 42c74481105a000000 mov   dword ptr [rcx+r8*4+10h],5Ah
            for (var i = 0; i < data.Length; i++)
                                             ^^^
00007ff9`7f1a8536 ffc0            inc     eax
00007ff9`7f1a8538 394208          cmp     dword ptr [rdx+8],eax
00007ff9`7f1a853b 7fd3            jg      00007ff9`7f1a8510
        }
        ^
00007ff9`7f1a853d 4883c428        add     rsp,28h

Sono sicuro che c'è qualcosa che ho trascurato, ma non riesco a farlo a questo punto, quindi sto cercando input su ciò che può spiegare questo.

c#  performance  benchmarkdotnet 
— Brian Rasmussen
fonte
@OlivierRogier Ricordo che BenchmarkDotNet non funzionava quando veniva eseguito in Debug.
— Euforico
In effetti, l'uso di un cronometro dimostra che l'uso di una const int è un po 'più lento di un campo su un semplice a * a ... anche se il codice IL usa più operandi.
— Olivier Rogier,
1
Utilizzando BenchmarkDotNet 12.0 e .Net Framework 4,8, eseguo il codice esatto dalla domanda e non vedo alcuna differenza significativa nei risultati tra i due metodi quando eseguo in x86. Riesco a vedere la differenza osservata quando si passa a x64.
— NoveBerry,
Le istruzioni cmpe movutilizzate per il percorso const occupano più memoria di quelle basate su un registro perché la codifica di un numero richiede byte aggiuntivi e in totale richiede più cicli di CPU per l'esecuzione (9 byte contro 5 byte per move 6 byte contro 5 byte per cmp) . E anche se ci sono mov ecx,dword ptr [rcx+10h]istruzioni aggiuntive per la versione non const, molto probabilmente è ottimizzata dal compilatore JIT per essere fuori dal ciclo nella versione di rilascio.
— Dmytro Mukalov,
@DmytroMukalov Ma l'ottimizzazione per la versione non const non causerebbe un comportamento diverso nell'esecuzione parallela? Come può il compilatore ottimizzarlo quando la variabile può essere modificata in thread diversi.
— Euforico

Risposte:

4

Guardando https://benchmarkdotnet.org/articles/features/setup-and-cleanup.html

Credo che dovresti usare [IterationSetup]invece di [GlobalSetup]. Con l'installazione globale, dataviene modificato una volta e quindi il datariutilizzo viene riutilizzato tra i benchmark.

Quindi, ho modificato il codice per utilizzare l'inizializzazione corretta. Variabili modificate per rendere più frequenti i controlli. E aggiunto alcune altre varianti.

using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
using System;

namespace PerfTest
{
    [DisassemblyDiagnoser(printAsm: true, printSource: true)]
    public class Test
    {
        private int[] data;
        private int[] data_iteration;

        private int Threshold = 50;
        private const int ConstThreshold = 50;

        [GlobalSetup]
        public void GlobalSetup()
        {
            data = new int[100000];
            var random = new Random(42);
            for (var i = 0; i < data.Length; i++)
            {
                data[i] = random.Next(100);
            }
        }

        [IterationSetup]
        public void IterationSetup()
        {
            data_iteration = new int[data.Length];
            Array.Copy(data, data_iteration, data.Length);
        }

        static void Main(string[] args)
        {
            var summary = BenchmarkRunner.Run<Test>();
        }

        [Benchmark]
        public void ClampToClassConstValue()
        {
            for (var i = 0; i < data_iteration.Length; i++)
            {
                if (data_iteration[i] > ConstThreshold) data_iteration[i] = ConstThreshold;
            }
        }

        [Benchmark]
        public void ClampToLocalConstValue()
        {
            const int ConstThresholdLocal = 50;
            for (var i = 0; i < data_iteration.Length; i++)
            {
                if (data_iteration[i] > ConstThresholdLocal) data_iteration[i] = ConstThresholdLocal;
            }
        }

        [Benchmark]
        public void ClampToInlineValue()
        {
            for (var i = 0; i < data_iteration.Length; i++)
            {
                if (data_iteration[i] > 50) data_iteration[i] = 50;
            }
        }

        [Benchmark]
        public void ClampToLocalVariable()
        {
            var ThresholdLocal = 50;
            for (var i = 0; i < data_iteration.Length; i++)
            {
                if (data_iteration[i] > ThresholdLocal) data_iteration[i] = ThresholdLocal;
            }
        }

        [Benchmark(Baseline = true)]
        public void ClampToMemberValue()
        {
            for (var i = 0; i < data_iteration.Length; i++)
            {
                if (data_iteration[i] > Threshold) data_iteration[i] = Threshold;
            }
        }
    }
}

I risultati sembrano più normali: 

BenchmarkDotNet=v0.12.0, OS=Windows 10.0.17134.1069 (1803/April2018Update/Redstone4)
Intel Core i7-8850H CPU 2.60GHz (Coffee Lake), 1 CPU, 12 logical and 6 physical cores
Frequency=2531250 Hz, Resolution=395.0617 ns, Timer=TSC
.NET Core SDK=3.0.100
  [Host]     : .NET Core 3.0.0 (CoreCLR 4.700.19.46205, CoreFX 4.700.19.46214), X64 RyuJIT
  Job-INSHHX : .NET Core 3.0.0 (CoreCLR 4.700.19.46205, CoreFX 4.700.19.46214), X64 RyuJIT

InvocationCount=1  UnrollFactor=1

|                 Method |     Mean |    Error |   StdDev |   Median | Ratio | RatioSD |
|----------------------- |---------:|---------:|---------:|---------:|------:|--------:|
| ClampToClassConstValue | 391.5 us | 17.86 us | 17.54 us | 384.2 us |  1.02 |    0.05 |
| ClampToLocalConstValue | 399.6 us |  9.49 us | 11.66 us | 399.0 us |  1.05 |    0.07 |
|     ClampToInlineValue | 384.1 us |  5.99 us |  5.00 us | 383.0 us |  1.00 |    0.06 |
|   ClampToLocalVariable | 382.7 us |  3.60 us |  3.00 us | 382.0 us |  1.00 |    0.05 |
|     ClampToMemberValue | 379.6 us |  8.48 us | 16.73 us | 371.8 us |  1.00 |    0.00 |

Non sembra esserci alcuna differenza tra diverse varianti. O tutto è ottimizzato o const int non ottimizzato in alcun modo in questo scenario.

— Euforico
fonte
Ci stavo giocando anche con questo e penso che tu sia interessato a qualcosa, quindi grazie per l'input. Se l'array sopravvive tra i benchmark, la previsione del ramo sarà diversa tra i due casi. Ne prenderò ancora in giro.
— Brian Rasmussen,
@BrianRasmussen Penso che una delle differenze principali sia che quando l'array sopravvive con i suoi valori, solo il primo benchmark che viene eseguito deve fare il lavoro di modifica dell'array. Per tutti gli ulteriori benchmark sullo stesso array, l'if non sarà mai vero.
— NoveBerry,
@NineBerry buon punto. Se la maggior parte dei test viene eseguita con i valori modificati, non riesco ancora a spiegare la differenza, ma fare l'installazione dell'iterazione sembra importare, quindi qui c'è qualcosa in cui scavare. Grazie a entrambi!
— Brian Rasmussen,
In realtà il mio punto non era così buono. Dato il codice originale nella domanda, GlobalSetupviene eseguito due volte, una volta prima di ogni benchmark, quindi entrambi i metodi iniziano con la stessa pre-condizione.
— NoveBerry,
@NineBerry Sì. Ma ogni metodo viene eseguito più volte per appianare gli estremi. Quindi per ogni metodo esiste una iterazione che è OK e quindi tutte le altre iterazioni che si comportano diversamente.
— Euforico
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.