а) (a+3b)²- (3a-b)²
Разложим квадраты:
(a+3b)² = a² + 6ab + 9b²
(3a-b)² = 9a² - 6ab + b²

Теперь подставим в выражение:
(a+3b)² - (3a-b)² = a² + 6ab + 9b² - (9a² - 6ab + b²)
Раскроем скобки и приведем подобные слагаемые:
a² + 6ab + 9b² - 9a² + 6ab - b² = -8a² + 12ab + 8b²

б) a-b²- b+a²
Приведем подобные слагаемые:
a + a² - b - b²
a(1 + a) - b(1 + b)
(a - b)(1 + a + b)