настройка Visual SoftIce под WmVare

Discussion in 'Реверсинг' started by spider-intruder, 16 Jan 2008.

  1. spider-intruder

    spider-intruder Elder - Старейшина

    Joined:
    9 Dec 2005
    Messages:
    700
    Likes Received:
    339
    Reputations:
    37
    настройка Visual SoftIce под VmWare

    Многие наверное мучаются с установкой SoftIce на компьютеры с процессорами HT или х64

    Я, как большой поклонник SoftIce тоже столкнулся с этой проблемой.
    Корректной работы я так и не добился, не смотря на установку различных патчей.
    То Ctrl+D не срабатывает вовсе, то БСОДит система при попытке загрузки SoftIce.

    Поиск альтернативных отладчиков ядра привел к Syser, но глюкавость этого отладчика это отдельный разговор и пришлось снова думать как же подружиться с «САйсом»

    Итак.
    Все проблемы связаны с прямой работой «Сайса» с видеопамятью.

    Решение – использовать Visual SoftIce входящий в комплект Driver Studio

    Принцип работы следующий: Visual SoftIce комплект Серверной и Клиентской части. Отладка приложения происходит на компьютере, где установлена TARGET чать Visual SoftIce.
    Управление отладкой, дизасемблированный код, установка точек останова происходит на компьютере, где установлена HOST часть Visual SoftIce

    Есть 2 варианта работы: Работать через Ethernet, имея в наличии 2 компьютера, либо работать через Именованные Каналы (PIPE – подробнее можно прочитать в WIKI) с виртуальной машиной.

    Я использовал именно 2 вариант.
    Итак начнем:

    Устанавливаем виртуальную машину. (Я предпочитаю VMWare)
    В настройках виртуальной машины заходим в настройки(1)
    [​IMG]
    Нажимаем «Добавить устройство» (2) выбираем «последовательный порт»(3) жмем «далее»(4).

    [​IMG]
    Выбираем из списка «Output to name pipe» и жмем
    далее (next)


    [​IMG]
    В появившемся окне вводим любое имя для нашего именованного канала. Жмем «финиш».

    Далее устанавливаем на Виртуальную машину DriverStudio и выбираем тип установки “Target”

    После установки, в настройках DriverStudio делаем так как на фотках:

    [​IMG]
    [​IMG]
    [​IMG]

    Перегружаем Виртуальную машину. Настройка на этом закончена!

    На основной системе устанавливаем DriverStudio. Тип установки HOST

    После установки запускаем Visual SoftIce заходим в пункт DEBUG->Connect->Named Pipe

    [​IMG]

    Вбиваем то имя, которое мы выбрали для именованного канала в виртуальной машине. Ждем подключения и работаем… 

    Подробностей писать пока не буду. Если такой темы небыло и кому то интересно – можно расписать все красивее и больше.
     
    #1 spider-intruder, 16 Jan 2008
    Last edited: 16 Jan 2008
    1 person likes this.
  2. _Great_

    _Great_ Elder - Старейшина

    Joined:
    27 Dec 2005
    Messages:
    2,032
    Likes Received:
    1,119
    Reputations:
    1,139
    она vmware кстати говоря..
    смысла отлаживать через vsice по ком порту я не вижу =)
    я его юзаю для отладки по сети.
    а для компорта kd сойдет
     
  3. spider-intruder

    spider-intruder Elder - Старейшина

    Joined:
    9 Dec 2005
    Messages:
    700
    Likes Received:
    339
    Reputations:
    37
    Интерфейс у него ЕБ@%№ТЫЙ :) Не нравится он мне :)
    Я ж не заставляю :) Юзай че хочешь :)
     
    1 person likes this.
  4. Hellsp@wn

    Hellsp@wn Elder - Старейшина

    Joined:
    29 Apr 2007
    Messages:
    401
    Likes Received:
    153
    Reputations:
    48
    эм, вопрос, а зачем пайпы юзал? сосульку и так норм встаёт на варю :) тока конфиг, нада поправить, чтоб мышка работала в нём.
     
  5. spider-intruder

    spider-intruder Elder - Старейшина

    Joined:
    9 Dec 2005
    Messages:
    700
    Likes Received:
    339
    Reputations:
    37
    У меня не встает.эээммм.. ну всмысле Сайс на Варе :).
    То бсодит, то картинку не прорисоывает.. Поэтому и юзаю ВизуалСосульку с Пайпом
    Тупит конечно но пашет
     
  6. Hellsp@wn

    Hellsp@wn Elder - Старейшина

    Joined:
    29 Apr 2007
    Messages:
    401
    Likes Received:
    153
    Reputations:
    48
    странно, я поднят на VMware WorkStation 5.5.2 без особых трудов, правда не визуал, а обычный...
     
    2 people like this.
  7. _Great_

    _Great_ Elder - Старейшина

    Joined:
    27 Dec 2005
    Messages:
    2,032
    Likes Received:
    1,119
    Reputations:
    1,139
    ты про сайс или сисер?)
    сайс у мну под варей ни в какую.. сайсер вообще заработал только один раз из 5-6 инсталов на разные тачки, надеюсь, ситуация улучшится, вроде крис присоединился к команде разработчиков сисера.

    К тому же я свой дебуггер пишу уже хз сколько =)) Уже кое что есть, но, разумеется, показывать не буду.
    Будет поддерживать отладку в 4 вариантах - через юзермодный гуй, через встроенный кернел гуй, по ком-порту и, возможно, по ethernet.
     
    1 person likes this.
  8. GoreMaster

    GoreMaster Elder - Старейшина

    Joined:
    28 May 2007
    Messages:
    119
    Likes Received:
    32
    Reputations:
    4
    _Great_ опять выпендрился =)))
     
    2 people like this.
  9. ProTeuS

    ProTeuS --

    Joined:
    26 Nov 2004
    Messages:
    1,239
    Likes Received:
    542
    Reputations:
    445
    вам прямая дорога к ар4еру с кряклаба, 4тобы совместно быстро и результативно. и продукт выйдет хороший...
     
  10. Shawn1x

    Shawn1x Elder - Старейшина

    Joined:
    24 Aug 2007
    Messages:
    307
    Likes Received:
    536
    Reputations:
    13
    Хорошая статья, как раз для новичков