Для вычисления разности двоичных чисел нужно вычитать каждый бит из соответствующего бита другого числа, начиная с самого младшего бита. Если у на первом месте стоит черта "-" в таком случае у может быть рассмотрено как двоичное число, с отрицательным значением.

Для данного случая:
у = 100 (четыре бита)
х = 10101100 (восемь бит)

1) Дополним число у до восьми бит (так как число х содержит восемь бит):
у = 00100100

2) Теперь можно вычесть каждый бит числа у из соответствующего бита числа х:
х: 1 0 1 0 1 1 0 0
у: 0 0 1 0 0 1 0 0 (-y)

Результаты вычитания:
1 0 0 0 1 0 0 0

Поэтому разность чисел х-у в двоичной системе равна 10001000.