Здравствуйте, TwisterMan, Вы писали:

Вот кусок из VCL5:

procedure TCustomForm.SetBorderStyle(Value: TFormBorderStyle);
begin
  if FBorderStyle <> Value then
  begin
    FBorderStyle := Value;
    AutoScroll := FBorderStyle in [bsSizeable, bsSizeToolWin];
    if not (csDesigning in ComponentState) then RecreateWnd;
  end;
end;

Т. е. видим, что в Real-тайме окно убивается и создаётся заново (с новым стилем WS_EX_CLIENTEDGE или без него).
Отсюда новый Handle.

P.S. Иногда полезно заглянуть в исходники...