Hola Miguel:
Cordial saludo. Permíteme aclarar tu inquietud: En el problema, X es la distancia que hay desde la persona hasta la pared en un instante cualquiera. Como la persona camina hacia la pared, entonces X disminuye con el paso del tiempo, por ese motivo la razón de cambio de X con respecto al tiempo t (es decir dX/dt) se debe tomar con signo negativo. Igual ocurre con H (la longitud de la sombra de la persona proyectada en la pared), cuyo valor se va reduciendo a medida que transcurre el tiempo. Por eso, dH/dt también es negativa.
En general, si una magnitud A aumenta con el paso del tiempo, entonces dA/dt es positiva y si A disminuye con el paso del tiempo, entonces dA/dt es negativa.
Espero haber aclarado tu duda.
Saludos,
Julio Rios