Давайте разложим выражение на множители:

A^2(a-y)^2 - b^2(b-y)^2 = (A(a-y) + b(b-y))(A(a-y) - b(b-y))
= ((Ay - Ay + Ay - Ay) + (bb - by - by + by))
= (Ay - Ay + Ay - Ay + bb - by - by + by)
= (Ay + by)(Ay - by)
= y(A + b)(A - b)

Таким образом, выражение можно разложить на множители y(A + b)(A - b).