Это нативный бинарник. Проблем с его криптом быть, в общем-то, не должно.
Если интересует техническая сторона вопроса, то читай про:
1. Формат PE
2. Способы запуска процесса из памяти
3. Антиотладку и антиэмуляцию
Учитывая, что сорцы открыты, будет так-же полезно почитать про обфускацию (строк, мьютекстов, пайпов и прочего, что может палиться).