Данное уравнение можно решить аналитически.

sin(x)*cos(4x) = -1

sin(x)(cos^2(2x) - sin^2(2x)) = -1
sin(x)((1 - 2sin^2(x))(1 - 2sin^2(2x)) - 4sin^2(x)cos^2(x)) = -1
sin(x)(1 - 2sin^2(x) - 2sin^2(2x) + 4sin^2(x)sin^2(2x) - 4sin^2(x)cos^2(x)) = -1
sin(x)(1 - 2sin^2(x) - 2sin^2(2x) + 4sin^2(x)(1 - cos^2(x)) - 4sin^2(x)cos^2(x)) = -1
sin(x)(1 - 2sin^2(x) - 2sin^2(2x) + 4sin^2(x) - 4sin^2(x) + 4sin^2(x)cos^2(x) - 4sin^2(x)cos^2(x)) = -1
sin(x)(1 - 2sin^2(2x) - 2sin^2(x)) = -1
sin(x)*(1 - 2sin^2(2x) - 2sin^2(x)) + 1 = 0

Для того чтобы найти корни уравнения можно воспользоваться численными методами.