На до бы посмотреть в BIOS Setup тайминги

На до бы посмотреть в BIOS Setup тайминги памяти, для начала поставить самые большие.
Скачать даташиты на чипы памяти н аобеих планках, и посмотреть штатные частоты и тайминги для них.

Далее, в порядке легкого бреда , какая стоит видео карта? У Асусовских мамок поколения Р2 не очень мощное питание слота AGP, позможно при установке двух планок памяти это как-то влияет, например, если питание AGP и северного моста идут от одного источника, то дополнительная планка памяти может дестабилизировать работу контроллера памяти, он в северном мосте. Кстати, для начала можно попробовать всю ту же конфигурацию, но с PCI видео.
BTW, частота на слоте AGP 87 или 89 МГц, что тоже может приводить к проблемам в определенных условиях, таких как вышеописанные.