Компьютер сам начинает загружаться, когда вставляешь вилку в розетку, то есть без нажатия кнопки Power. Я проверил, кнопка работает 100%.

Такая штука настраивается в BIOS в разделе Power Management Setup.

Цепь запуска блока питания неисправна.

Найдите в BIOS, в разделе управления питанием (Power) опцию типа Restore on AC Power и установите ее в Power Off. Более точно название опции уточните в инструкции к вашей материнской плате.

В BIOS в Power Management найди опцию Power state on AC back и поставь его в "Instant Off".

Цепь запуска в источнике питания неисправна или из-за плохой конструкции, подверженной наводкам, срабатывает в момент заряда конденсаторов выпрямителя. Замените блок питания.

Ищи в BIOSe в разделе управления питанием. С железом скорее всего всё впорядке.