Você deve desenvolver primeiro as potencias e depois montar a equação. Veja:

x²+(x-3) ² = (x+3)²

x²+ x² - 6x + 9 = x² + 6x + 9

x² + x² - x² -6x - 6x + 9 - 9 = 0

x² -12x = 0

x(x - 12) = 0 ____ ( eu coloquei o x em evidencia)

x = 0

ou

x - 12 = 0 __ x = 12

Resp: S = {0 e 12}

Um abraço!!!

x²+(x-3) ² = (x+3)²

x² +x²-6x+9 = x² +6x +9

x² - 12x = 0

x(x-12)

S = (0, 12)

===========

x² + (x - 3)² = (x + 3)²

x² + x² - 6x + 9 = x² + 6x + 9

x² - 12x = 0

x*(x - 12) = 0

x1 = 0

x2 = 12

pronto

x(x-12)=0

x=0

x=12