Вынесем множитель 3 из двух последних слагаемых:

(a-b)^2+3(a-b)

Вынесем множитель (a-b):

(a-b)(a-b+3)

Готово!