На курсах в Интертрасте нас учили так:
1. поставить на новую машину сервер Domino (диск и папка - с тем же именем, как на старой);
2. удалить содержимое папки установки;
3. скопировать папку \data и файл notes.ini со старой машины на новую;
4. установить сервер Domino.
На самом деле достаточно пунктов 3+4.
Если на новой машине сервер будет жить в другой папке - значит еще надо немного подправить notes.ini (и, возможно, документ Server в names.nsf).