Resolví el 5..
Lo dejo..

Mi función es la integral:

\[F(x)=\int_{0}^{x^2-6x}f(t)dt\]

La derivada de la función integral:

\[F'(x)=(x^2-6x)(2x-6)\]

Distributiva:

\[F'(x)=2x^3-12x^2-6x^2+36x\]

Busco los posibles máximos y mínimos:

\[F'(x)=0\]
\[x=6 \veebar x=3\veebar x=0\]

Aplico por criterio de la segunda derivada:

\[F''(x)=6x^2-36x+36\]

Como me dio

\[F''(6)>0-- min\]
\[F''(3)<0-- max\]
\[F''(0)>0-- min\]


Creo que esta bien la parte b estaría bueno si la completas si te acordas y lo termino, saludos!