4(a^2 + b^2) + 21b^2 - 20ab - 36

4(a^2 + b^2) + 21b^2 - 20ab - 36
= 4a^2 + 4b^2 + 21b^2 - 20ab - 36
= 4a^2 - 20ab + 25b^2 + 21b^2 - 36
= (2a - 5b)^2 + 21b^2 - 36

Множители: (2a - 5b + √21)(2a - 5b - √21)