Mike ha ragione sul fatto che il messaggio di errore che stai ricevendo proviene dall'applicazione Management Studio stessa e non da SQL Server. È la memoria della workstation locale che è stata esaurita, probabilmente a causa del tentativo di inserire 16 miliardi di righe nell'applicazione client (il rendering di molti dati in una griglia è piuttosto costoso in termini di memoria, quindi cerca di limitare le tue query utilizzando TOPecc. - Non so quali cose pratiche potresti eventualmente fare con dati sufficienti per utilizzare comunque tutta la tua memoria locale).
Ma voglio affrontare un altro problema: usare Task Manager per valutare la quantità di memoria che SQL Server sta usando. Non farlo; è un bugiardo dal viso audace. Copia da questa risposta (la tua domanda è duplice, quindi non posso davvero chiuderla come duplicato):
Non puoi MAI, MAI fidarti di Task Manager per dirti quanta memoria utilizza SQL Server. Smetti di usare Task Manager per questo, punto. Utilizza il contatore delle prestazioni: puoi anche eseguire una query sul contatore delle prestazioni utilizzando i DMV:
SELECT object_name, cntr_value
FROM sys.dm_os_performance_counters
WHERE counter_name = 'Total Server Memory (KB)';
Puoi salvarlo come scorciatoia di query in Strumenti> Opzioni> Ambiente> Tastiera> Scorciatoie di query e ottenere risultati accurati in una finestra di query molto più velocemente rispetto a ottenere risultati imprecisi da Task Manager.
Puoi anche controllare la pressione della memoria (e se puoi fare qualcosa al riguardo) usando queste query:
SELECT object_name, cntr_value
FROM sys.dm_os_performance_counters
WHERE counter_name IN ('Total Server Memory (KB)', 'Target Server Memory (KB)');
-- SQL Server 2012:
SELECT physical_memory_kb FROM sys.dm_os_sys_info;
-- Prior versions:
SELECT physical_memory_in_bytes FROM sys.dm_os_sys_info;
EXEC sp_configure 'max server memory';