10111 - 11 = 1010011 - 1110 = -1011 (в двоичной системе отрицательные числа представляются в дополнительном коде)

Поэтому результаты операций вычитания двух двоичных чисел будут следующими:

10111 - 11 = 1010011 - 1110 = -1011 (в десятичном исполнении заканчиваем на -3, не забывая про дополнительный код)