Для начала найдем значение cos3a:

cos3a = cos(2a + a) = cos2a cosa - sin2a sina = (2 cos^2(a) - 1) cos(a) - 2 sin(a) cos(a) = (2 (1/3) - 1) (1/√3) - 2 (1/√3) (1/√3) = (2/3 - 1) (1/√3) - 2/3 = (2/3 - 3/3) (1/√3) - 2/3 = -1/3 * (1/√3) - 2/3 = -1/(3√3) - 2/3 = -(1 + 2√3)/(3√3)

Теперь найдем значение cos5a:

cos5a = cos(3a + 2a) = cos3a cos2a - sin3a sin2a = ((1 + 2√3)/(3√3)) ((2/3) - 1) - (1/√3) (1/√3) = ((1 + 2√3)/(3√3)) * (-1/3) - 1/3 = - (1 + 2√3)/(9√3) - 1/3 = -(1 + 2√3 - 3)/9√3 = -(2 + 2√3)/(9√3)

Подставим найденные значения в исходное выражение:

cos3a - cos5a = -(1 + 2√3)/(3√3) - (-(2 + 2√3)/(9√3)) = -(3 + 6√3)/(9√3) + (2 + 2√3)/(9√3) = (-3 - 6√3 + 2 + 2√3)/(9√3) = (-1 - 4√3)/(9√3)

Таким образом, cos3a - cos5a равно (-1 - 4√3)/(9√3)