С начало бы провести хоть какую либо аналитику, как ломали, какой тип спама, и прочее. У @Deazer в сборке очень хорошо реализованы моменты с флуд-протектом, и защитой логина. Скорей всего это больше ваша оплошность в настройки оборудования, или конфигов.
Одна из самых стабильных, и цена качество сборок это люцера, даже сомнений нет в этом. Л2дрим, Оверлорд, и еще много других проектов работают стабильно без каких либо проблем.
Чтобы понять что у вас случилось надо смотреть логи сервера, логи оборудования, проверять все настройки чтобы делать какие либо выводы.