Intente resolver este ejercicio pero no se como empezarlo no se como hacerlo

Recordá la condición para que un polinomio de grado 2 tenga raíz doble (múltiple).
Fijate si con eso lo podes hacer.

No me sale, sigo sin entender que es lo que tengo que hacer. Se que tengo que averiguar el valor de K pero no se como lo tengo que hacer

Según la regla que publicó sentey un polinomio de grado 2 tiene raiz doble (es decir, tiene sus dos raices iguales) si se cumple que:

d=b^2 - 4. a. c
d=0
d=d
0=b^2 - 4. a. c

En el polinomio p(x)= (k-1)x^2 - 40kx + 1600 tus valores de a, b y c son:

a=k-1
b=-40k
c=1600

Lo que tienes que hacer es calcular el valor de k para que se cumpla d=0.
Solo te queda reemplazar los valores de a, b y c en 0=b^2 - 4. a. c y resolver la ecuación para calcular k