A1=2, An+1=An/2 + (An)2/8
помогите, пожалуйста, как найти предел??

Вобще странная запись. Получается, что An+1=(3/4)An
Тогда ясно, что она убывает и ограничена снизу (нулем). Следовательно, предел А существует. Переходя к пределу в
An+1=(3/4)An
получим A=(3/4)A, т.е. А=0.

(An)2 - это Аn в квадрате.
Просто не знаю,как это по-другому записывается.

Вот так: 2^2=4. Или, если очень просто, то 2*2*2=2^3=8.