Для начала, дай ему хотя бы сесть на

Для начала, дай ему хотя бы сесть на нормальные прерывание и адрес. Для этого - в CMOS-е машинки запрети COM-порты.
Потом посмотри внимательно на джампера, на одной группе - циферки типа 3-4-5, это - прерывание, джампер там один. на другой - 1-2-3-4, это - номер порта, джамперов там может быть пара.
Выставь что-нибудь осмысленное. Как адреса и прерывания раздаются номерам портов - найдешь в любом справочнике. Далее - если это у Тебя исправный модем, закажи Винде поиск новых устройств. Посмотри, что обнаружит. 98-я обнаружит хотя бы COM-порт. После этого - ставь на этот порт свой модем, в списке Винды выбирай стандартный 14400 - и все.

Ежели Винда не увидит ничего - большое подозрение, что он мертв.

Можно, конечно, грузиться в DOS и опрашивать его через терминалку через ATI- команды (в том же Нортон Коммандере есть), но для этого надо понять, по какому адресу/прерыванию стучаться. Если знаешь как, то в дозагрузочной картинке в списке устройств найдешь адрес Serial-устройства - тогда появится смысл тестировать именно его.

Перешивать - тоже особого смысла нет, модемы 14400 после 95-го года выпуска без переделок практически не апгрейдились.

А зачем вообще Тебе возиться с модемом, у которого скорость - 14400 BPS и НИКОГДА не будет выше ? Ему ж цена сегодня - $5, и не более.
Если есть такое желание - проще за $10 купить живой ISA- модем 33600 или 56К - с ним веселее будет.