f=X1^2+X2^2+X3

при условиях

X1+X2+X3=4
2X1-3X2=12

правила форума

А что, поиск ничего не дал?

честно говоря устал от поиска. а так до конца и непонимаю этот метод

смотрите примеры

Из первого уравнения можно найти x3 и подставить в f.
Получаем: f = x1^2 + x2^2 - x1 - x2 + 4
и 2x1 - 3x2 = 12.
Составляем функцию Лагранжа
L = x1^2 + x2^2 - x1 - x2 + 4 + a * (2x1 - 3x2 - 12)
Теперь берем частные производные L по х1, х2, а и приравниваем к 0.
dL/dx1 = 2 * x1 - 1 + 2 * a
dL/dx2 = 2 * x2 - 1 - 3 * a
dL/da = 2x1 - 3x2 - 12
Получаем систему
2 * x1 - 1 + 2 * a = 0,
2 * x2 - 1 - 3 * a = 0,
2x1 - 3x2 - 12 = 0.

x1 = -a + 1/2, x2 = 3/2 * a + 1/2
Тогда
2 * (-a + 1/2) - 3 * (3/2 * a + 1/2) - 12 = 0
-2a + 1 - 9/2 * a - 3/2 - 12 = 0
13/2 * a = -25/2 => a = -25/13.
Вроде бы так.
А потом вычисляем вторые производные и смотрим, что это за точка.

Сначала находим дифференциалы как по самой функции, так и по обеим функциям ограниченмй.
df/dx1=2x1
df/dx2=2x2
df/dx3=1

dF1/dx1=1
dF1/dx2=1
dF1/dx3=1

dF2/dx1=2
dF2/dx2=-3

Затем составим систему:
2x1+a1+2a2=0
2x2+a1-3a2=0
1+a1=0
x1+x2+x3-4=0
2x1-3x2-12=0

Отсюда получим систему 1:
2x1+1+2a2=0
2x2+1-3a2=0
x1+x2+x3-4=0
2x1-3x2-12=0

Теперь сравним 2х1 в пераом и последнем уравнениях.
3х2-12+2а2+1=0
3х2+2а2-11=0
а2=(3х2-11)/2

Подставим а2 в 3 уравнение системы 1.
2х2-4,5х2+1,5+1=0
х2=-1

Работая с 5 уравнением системы 1 получим:
2х1+3-12=0
х1=4,5

х3 остается 0,5.

Итак,
х1=4,5, х2=-1, ч3=0,5.
Подставим в искомое уравнение, получим 21,75