А>...существует ли в системах Windows защита (настраиваемая) от такого поведения (захвата ресурсов процессора/памяти/...)?

Приоритеты потоков/процессов?

А>...я полагаю многоядерные системы в этом отношении должны быть на высоте, я прав?

Не факт, т.к. процесс может захватить своими вычислениями все доступные ядра.