Hola

y = (1/2) x^2 e^(4 x) - (1/4) x e^(4 x)

Derivada de producto

y' = (1/2) (x^2)' e^(4x) + (1/2) (x^2) (e^(4 x))' -

- (1/4) (x)' e^(4 x) - (1/4) (x) (e^(4 x))'

y' = (1/2) (2 x) e^(4 x) + (1/2) (x^2) (4 e^(4 x)) -

- (1/4) e^(4 x) - (1/4) x (4 e^(4 x))

y' = x e^(4 x) + 2 x^2 e^(4 x) - (1/4) e^(4 x) - x e^(4 x)

y' = 2 x^2 e^(4 x) - (1/4) e^(4 x)

y' = (2 x^2 - (1/4)) e^(4 x)

PERO ¿qué deseas con eso, cuál es la pregunta?

Edita nuevamente , si mandas el resultado de tu manual es mejor.

AYUDO

Continuando la solución después de la actualización

Pues , aplicas la derivada de un producto .

Mi respuesta

2x^2e^(4x) ‒ (1/4)e^(4x)... evidentemente se comieron el otro término.

La misma de wolfram

http://www.wolframalpha.com/input/?i=derivative+of...