Come altri hanno già detto, non possiamo più raffreddare efficacemente le CPU se dovessimo spingere la tensione richiesta per gli stessi aumenti della frequenza di clock relativa in passato. C'è stato un tempo (era P4 e precedenti) in cui era possibile acquistare una nuova CPU e vedere un guadagno "immediato" è la velocità perché la frequenza di clock era significativamente aumentata rispetto alla generazione precedente. Ora abbiamo colpito una sorta di muro termico.
Ogni nuova generazione moderna di processori aumenta leggermente la frequenza di clock, ma ciò è anche relativo alla capacità di raffreddarli in modo appropriato. I produttori di chip, come Intel, si stanno concentrando continuamente sulla riduzione della dimensione del die della CPU per renderli entrambi più efficienti dal punto di vista energetico e produrre meno calore con gli stessi clock. Come nota a margine, la riduzione delle dimensioni dello stampo rende questi processori moderni più inclini a morire per sovratensione piuttosto che per surriscaldamento. Ciò significa che sta anche limitando la frequenza di clock a soffitto di qualsiasi CPU di generazione attuale senza altre ottimizzazioni apportate dal produttore di chip.
Un'altra area su cui i produttori di chip si concentrano fortemente è l'aumento del numero di core su chip. Ciò si traduce in significativi aumenti della potenza computazionale, ma solo quando si utilizza un software che sfrutta più core. Nota qui la differenza tra potenza computazionale e velocità. In poche parole, la velocità si riferisce alla velocità con cui un computer può eseguire una singola istruzione, mentre la potenza di calcolo si riferisce a quanti calcoli può fare un computer in un determinato periodo di tempo. I moderni sistemi operativi e molti software moderni sfruttano più core. Il problema è che la programmazione simultanea / parallela è più difficile del paradigma di programmazione lineare standard. Ciò ha aumentato il tempo impiegato da molti programmi sul mercato per sfruttare appieno la potenza di questi nuovi processori perché molti sviluppatori non erano abituati a scrivere programmi in questo modo. Esistono ancora oggi alcuni programmi sul mercato (moderni o legacy) che non sfruttano più core o multi-threading. Il programma di crittografia che hai citato ne è un esempio.
Queste due aree di interesse dei produttori di chip sono intrinsecamente connesse. Riducendo sia la dimensione dello stampo che il consumo di energia di un chip, sono quindi in grado di aumentare il numero di core su detto chip. Alla fine, però, anche questo colpirà un muro, causando un altro, più drastico, cambio di paradigma.
Il motivo di questo cambiamento di paradigma è dovuto al fatto che ci avviciniamo ai limiti del silicio come materiale di base per la produzione di chip. Questo è qualcosa che Intel e altri stanno lavorando per risolvere da tempo. Intel ha affermato che ha un'alternativa al silicio in cantiere e probabilmente inizieremo a vederlo dopo il 2017. Oltre a questo nuovo materiale, Intel sta anche esaminando i transistor 3D che potrebbero "triplicare efficacemente la potenza di elaborazione". Ecco un articolo che menziona entrambe queste idee: http://apcmag.com/intel-looks-beyond-silicon-for-processors-past-2017.htm