У меня SiI3112 на 50МГц работал, у этого

У меня SiI3112 на 50МГц работал, у этого чипа (выпущенного по .18u технологии) половина на 150МГц пашет, он и официально 66/32 PCI держит. Так что он тут явно не при чем.
Согласен с Max и R_Soft - копайте в сторону Vcc, как значения, так и пульсаций.