Esiste un allocatore alternativo che può essere LD_PRELOADed in un processo, sovrascrive "malloc", "calloc", ecc. E alloca le cose usando i propri file di swap (mmaped in file anziché MAP_ANONYMOUS)?
Spero che ciò impedisca a un processo affamato di memoria di rallentare e di bloccare l'intero sistema.