Видеокарта GeForce FX5200, монитор LG 500E 15 дюймов. При разрешении 1024×768 частота никак не ставится выше 60 Гц.

Ставь меньше частоту разрешения. На такой частоте будет только 60 Гц, не больше. Поставь 800*600.

Монитор не поддерживает такую частоту развертки при таком разрешении.Меняйте монитор или используйте его в рекомендуемом для пятнашек разрешении 800х600, в котором сможете установить более высокую частоту развертки.

Попробовать с помощью программы Power Strip плавно поднять кадровую частоту - до момента, пока не сорвется синхронизация. Подобные манипуляции могут привести к повреждению монитора из-за перегрузки строчной развертки, так что делать это придется на свой страх и риск.

Скачай новый (последний) драйвер для видеокарты, и поднимешь частоту до 65 Гц. Больше - сорвется синхронизация.