Как заставить игру DOS в открываться в оконном режиме в Windows XP?

Вообще говоря, никак. Попробуйте какой-нибудь сторонний эмулятор DOS взамен стандартного ntvdm. К сожалению, не помню, работает ли в окне DOSBox. Попробуйте.

Если в свойствах этого файла на вкладке экран уже отмечен оконный режим и не помогает, то никак.

Используйте программу DOSBox, она и скорость современного компьютера позволит при необходимости скорректировать под досовские игрушки.

Посмотри тут: http://www.pcnews.biz/text/182