Первым шагом раскроем скобки:

(x+1)^2 = x^2 + 2x + 1

Теперь производная функции будет равна:

d/dx[(x+1)^2(x-3)-2] = d/dx[(x^2 + 2x + 1)(x-3)-2]
= d/dx[x^3 - 3x^2 + 2x^2 - 6x + x - 3 - 2]
= d/dx[x^3 - x^2 - 5x - 5]
= 3x^2 - 2x - 5

Таким образом, производная функции (x+1)^2*(x-3)-2 равна 3x^2 - 2x - 5.