и потом вычислять через биноминальный коэффициент?
Можно, наверное, и так, но как-то не очень он быстрый способ получится. Хотя степени матриц находятся нормально, можно найти закономерность. Можно, возможно, и так: A^10=(A^5)^2=(A^2*A^3)^2=(A^2*A^3)*(A^2*A^3)=...