...Теперь веньтиль дергается...

Это очень хорошо. Дело за малым - устранить причину срабатывания защиты.

...Если выкрутить подстроечник на ноль, то БП даже может запуститься на секунду с третьего раза, но напряжения завышены (вместо 12 - 13,7 вольт)..

Не хватает подстроечника для установки выходных напряжений - надо увеличить R5 с 12к до 14...15к.

....Если я правильно понял на контакты платы шим 5,6,7 нужно подать с другого БП 3.3, 5, 12в?..

Этого делать не надо, так как с этих же контактов платы ШИМ формируется напряжение ОС.

Получилось так. При сумме сопротивлений резисторов равной 7,8 К, нагрузках в 3 А по 5В и 12 В, запускается с третьего раза и работает. Напряжения 12.01, 5.04, 3.4. Без нагрузки не запускается вообще, только дергается. Не пойму почему запуск с третьего раза и почему не пашет без нагрузки...
________
Если замыкаю 4 и 8 выводы платы шим на массу, то запускается с первого раза и даже без нагрузок.

Просьба перезалить схему из первого сообщения (которая "fsp350w_pnf_(плата с ШИМ).zip"). Либо скниуть мне, я подправлю.

Все что есть у меня. Может оно?

Субмодуль ШИМ FSP3528 (вариант от plohish'а). В схеме возможны ожибки.

..Без нагрузки не запускается вообще,...

Это нормально - большинство БП ведут себя так - без нагрузки уходят в защиту.

...Если замыкаю 4 и 8 выводы платы шим на массу, то запускается с первого раза и даже без нагрузок....

4 пин - защита по току.
8 пин - защита на отсутствие -5в и -12в.
Замкнуть их на массу - значит выключить защиту, но чтоб понять какой из них влияет, замыкать не оба сразу, а по одному.

Неплохо бы нарисовать схемку цепей защиты которые подводятся к 4 и 8 пинам разьёма.
И подумать в чём проблемка (возможно уровень сигнала высокий).
На основной плате должен быть подстроечник, порог срабатывания защиты OPP, ищите, крутите.

Был не внимателен, да и БП уж слишком плотно спаян. Схему срисовал (прикрепить почемуто не могу) Нашел подстроечник защиты. Но его всеравно не хватает. Поставил параллельно на 2К. Теперь запускается и без нагрузки, а если подключить лампу ватт на 100 по 12В то не запустится. Если же сначала запустить а потом лампу, тогда все гуд. Всетаки с ним чтото не так... Подрубить чтоли его уже к компу да проверить :)

Не забывайте нагружать и каналы 5 и 3,3 вольта соответствующей нагрузкой иначе из-за перекоса напряжений будет срабатывать защита.

5В тоже нагружаю, а вот 3,3 нечем. Вобщем не сдержался и к компу подрубил. Напруги (по MSI PC Alert 4 и DT9202A) 3,30; 4,97; 11,95. Думаю немного крутнуть резюк. Хотелось бы всетаки нагрузить его по максимуму, как найду мощные полевики сооружу эквивалент нагрузки.
Смотрю на плату БП и похоже сдесь два канала по 12 вольт (в описании на БП тоже так) но после кондеров почемуто перемкнуты меж собой. Так и должно быть?

Крутаните. Но больше 12,05 не делайте. IMHO.
А потом замените подстроечник на постоянный. Уж очень они не надежные.