Здравствуйте, korsakovs, Вы писали:

K>1. Запрет запуска второй копии приложения

Как вариант:
Microsoft советует в таких случаях создавать в %TEMP% каталоге файл и анализировать его. Доступ для этого файла — только чтение.
Я, например, там храню HWND окна уже запущенного приложения что бы можно было его показать.

K>2. Надо реализовать MemoryMappedFile.
K>Вопрос в том, реально ли это сделать в Qt4 не используя системные функции Windows???

Можно попытатся пройти по сырцах Qt4 в поисках MemoryMappedFile, а там уже выйты на высокоуровневые межплатформенные враперы.