Для начала решим второе уравнение относительно x:
2x + 3y = 17,
2x = 17 - 3y,
x = (17 - 3y) / 2.

Подставим это выражение в первое уравнение:
6y - ((17 - 3y)/2)^2 = 2,
6y - (289 - 102y + 9y^2)/4 = 2,
24y - 289 + 102y - 9y^2 = 8,
-9y^2 + 126y - 297 = 0.

Далее решаем полученное квадратное уравнение относительно y:
y^2 - 14y + 33 = 0,
(y - 11)(y - 3) = 0,
y = 11 или y = 3.

Подставляем найденные значения y обратно в одно из исходных уравнений, например, в 2x + 3y = 17:
1) y = 11:
2x + 3*11 = 17,
2x = 17 - 33,
2x = -16,
x = -8.

2) y = 3:
2x + 3*3 = 17,
2x = 17 - 9,
2x = 8,
x = 4.

Таким образом, система имеет два решения: (-8, 11) и (4, 3).