Для сокращения дроби нужно преобразовать ее в более удобное выражение. Для этого можно выделить общие множители из числителя и знаменателя.

(b-2√b+1)/(√b-b) = ((√b-1)(√b-1))/((√b-b)) = (√b-1)^2/(√b-b)

Теперь дробь не имеет общих множителей, которые можно сократить.