функция F(х) при положительном значении х принимает отрицательные значения , а такого не может быть
в чем дело? я что-то не так делаю?

Конечно, не так. Вы вычисляли F как неопределённый интеграл от f. В теории вероятностей не бывает неопределённых интегралов. При каждом х функция распределения F(x) равна интегралу от -oo до x от плотности f(t) по dt.

Отдельно нужно вычислить F при x < 1, при x из [1,2] и при x > 2. Например, при x > 2

F(x) = int[-oo,x] f(t)dt = int[-oo,1] 0*dt + int[1,2]24/(7t^4)*dt + int[2,x] 0*dt = 1.

спасибо...