Для решения данного выражения, раскроем скобки:

(a-3b)^2 = a^2 - 6ab + 9b^2
(a+b)^2 = a^2 + 2ab + b^2

Теперь подставим полученные значения обратно в исходное выражение:

(a^2 - 6ab + 9b^2) - (a^2 + 2ab + b^2)
= a^2 - 6ab + 9b^2 - a^2 - 2ab - b^2
= -8ab + 8b^2

Таким образом, результат выражения (a-3b)^2-(a+b)^2 равен -8ab + 8b^2.