Прежде всего вес сайт это папка, а уж потом домен... Из твоего поста ответа на вопрос какая разница не наблюдается...
как я понял, если завести виртуальный хост, как написал groundhog, и привязать его к папке с форумом, то это обезопасит основной домен в случае если в поддомене форума найдут багу? А если форум будет просто папкой в основном домене, то и куки будут напрямую связаны с сайтом этого домена и соответственно, взломав сайт, можно получить доступ и к форуму.