Здравствуйте, Pavel Dvorkin, Вы писали:

PD>Можно ли как-то указать ей максимальный размер? То есть больше такой-то величины — не расти, OutOfMemory.

А тебе именно vm size интересен или working set?

Если working set, то есть Process.MaxWorkingSet. Если же vm size, боюсь без unmanaged ничего не получится: либо CLR hosting как писали выше, либо Job objects (CreateJobObject/SetInformationJobObject(JOB_OBJECT_LIMIT_JOB_MEMORY...)/AssignProcessToJobObject), что будет приводить не к OutOfMemory, а просто к убийству процесса ОС. Ну и ещё можно "мягко" поиграть с GC.AddMemoryPressure, но это не лимит а так...