Дос атака на домашний сервер

смотря на чем сервер

никак
система защиты от дос атак должна стоять на провайдерском уровне
а если Вы захотите её поставить у себя, вам придется продать квартиру, машину и почку (левую)

Этой прогой http://www.agnitum.ru/outpost-firewall-pro.php только её нужно уметь настраивать правильно. Меня постоянно ломал фашист, который живёт на краю германии, но всё таки я его сделал, так как выкупил что он делает. Дос атаки шли по 100 шт каждый час и из этой сотни его айпи повторялся постоянно, в итоге я его вообще забанил в аутпосте, хотя у него самого сервер включён игровой. Пару раз ложил роутер этот гад, помогала прошивка роутера. В принципе это и был весь интерес сделать сервер и так чтоб его не смог никто положить. После того как я добился положительного результата сервер выключил, работал я целый год над защитой, хотя все говорили это не реально, но нет ничего не возможного, это моё правило ))