Имеет ли значение, в какой разъём я вставляю внутренний модем — в COM3 или COM4?

Значения не имеет, поскольку на компьютерах имеется не больше 2 СОМ портов (СОМ1 и СОМ2).

А COM3 и выше назначается устройству системой. Воткнуть модем можно в свободный PCI слот на материнке.

Это не разъемы (тем более для «вставки внутреннего модема»), а интерфейсы, что относительно условное понятие (адресное пространство и др.). На имеющиеся обычно 2, а то и 1 разъем для интерфейсов типа СОМ можно назначить СОМ1,2 и др., менять местами в т.ч. программно или из БИОС и т.п. Модем (внутренний) обычно вставляется в разъем PCI, (очень старые в ISA), в 90% случаев все равно в какой на плате. Интерфейс для модема (СОМ1,2...15) назначается собственно операционной системой из допустимых. Иногда требовалось его (напр.виртуальный СОМ7) объявить в системе вручную.

Это ты задаешь, каким портом прикидываться модему. По дефолту COM1 и COM3 используют IRQ4, а COM2 и COM4 - IRQ3, так что может быть конфликт ресурсов. Можно отключить в биосе неиспользуемые порты (COM 1 и/или 2).