Ранги я нашел:
r(A)=2 r(A| B )=2

А что писать в общем решение системы я незнаю.

Есть предположение что вот так пишется, но правильно или нет я неуверен:

-21x2+27x3=31 x3 заменяем на А
-21x2=31-27x3

получаем:

-21x2= 31-27A



x2= 31 - 27A / -21



x2= (4 / -21)*A

Если правильно, то подтвердите если нет, то поправте буду очень блогодарен.

Ну чтобы что-то написать, надо его найти
Приводите матрицы системы к ступенчатому виду.

Не правильно. Как Вы перешли от предпоследней строчки к последней?
Общее решение включает в себя выражения для всех переменных, а не только для х2. Почитайте об этом здесь.

Эта запись мне вообще непонятна.

нет

картинка не отобразилась, помочь не могу поэтому

1 4 -4 | -5
5 -1 7 | 6 ~
11 2 10 | 7


1 4 -4 | -5
0 -21 27 | 31
0 0 0 | 0

отсюда следует что ранг равен 2

x1 + 4x2- 4x3 = -5
-21x2+ 27x3= 31

Так ?

Похоже на правду

Т.к. количество переменных равно 3, а ранг равен 2, то две зависимые переменный, одна - базисная. Например, х3 - базисная, выражайте через нее х1 и х2, начиная с последнего уравнения и двигаясь вверх.