{ax - by = 1    (1)

{bx + ay = 2    (2)

{ a²+ b²  =1.    (3)                 Найти  max (x+y).     

Заметим, что х и у неотрицательные, т.к. ищем наибольшеее значение.

Введем замену  а²=sin²t,  b²=cos²t.  тогда a=sint, b=cost.

(1): xsint - ycost = 1                 x²sin²t -2xy·sint·cost + y²cos²t = 1

(2): xcost + ysint = 2                x²cos²t +2xy·sint·cost + y²sin²t = 4

(1) и (2) возвели в квадрат,  затем складываем. Получим

х² + y² = 5

                //  если бы х и у по условию были целыми, то х=1, у= 2 или наоборот,

                //  и тогда бы х+у =3.

По условию х, у - действительные числа, и, как замечено, неотрицательные.

Обозначим S(х,у) = x+y,  найдем наибольшее значение s при условии 

х² + y² = 5

x≥0,  y≥0.

y= √(5-x²);    S(x) =x + √(5-x²)

S′(x) = 1  - x/√(5-x²) =0;

√(5-x²) -x = 0;    5-x² = x²;   x² = 5/2;   

x= √(5/2);   y = √(5/2);

x + y = 2√(5/2) = √10.

Ответ: х+у = √10 ≈ 3,162277...