5a - 6b - 10ay - 12by

Первым шагом можно вынести общие множители:
a(5 - 10y) - 6b(1 + 2y)

Теперь можно вынести дополнительные общие множители:
a(5 - 10y) - 6b(1 + 2y)
= a5 - a10y - 6b1 - 6b2y
= 5a - 10ay - 6b - 12by

Таким образом, выражение 5a - 6b - 10ay - 12by можно разложить на множители как (5 - 10y)a - (1 + 2y)6b.