Если тебе нужен просто фаервол с хорошей логийкой анализа соединения, то iptables и вперед. Прочие плюшки аля скана на вири и интерфейсы, то да - untangle или endian добавь в список
iptables, для простоты настройки можно прикрутить web интерфейс http://sourceforge.net/projects/iptadmin/