Здравствуйте, salvequick, Вы писали:

S>К сожалению на работе практики подобных задач нет, подобными вещами занимается выделенный отдел архитекторов ПО.
Если я правильно понял, то вопрос сводится к выбору из типовых реализаций пула задач (потоков). Дальше всё зависит от языка / фреймворка, универсального ответа не будет.