Нужно, чтобы было ненулевым значение

BOOL IsWindow(
HWND hWnd
);

Кроме того, окно могли просто спрятать (Hide). Можно и это отследить:

BOOL GetWindowPlacement( HWND hWnd,
WINDOWPLACEMENT* lpwndpl
);
В возвращаемой структуре showCmd не должно быть равно SW_HIDE.

Slicer