Логи смотреть тут: C:\Windows\Debug\adprep\
Все правильно, adprep.exe из комплекта 2008 R2 - это х64, для запуска на 32-битных системах (windows server 2003/2008) надо использовать adprep32.exe
Черный экран, никаких сообщений, процесс висит в памяти и пустой лог? Это багофича. Необходимо переименовать adprep\ru-ru в adprep\en-us
Последовательно делаем
c:\>c:\adprep32.exe /forestprep
и если все хорошо прошло, тогда
c:\>c:\adprep32.exe /domainprep