Интересуют все возможные варианты

Вам чем-то не нравится статическая линковка с CRT путем установки в настройках проекта 'debug multithreaded'? Еще можно поставлять вместе с программой CRT redistributable. Для Debug версии есть .msm. Его можно добавить в свой инсталлятор или сделать из него .msi, которая будет ставиться перед работой с программой.