Система переопределённая (число переменных меньше числа уравнений) и не имеет точного решения. Обычно в таких случаях находят решение, наиболее близкое к условиям, заданным уравнениями (в математике говорят: минимизирующее норму невязки). Чаще всего для отыскания решения переопределённых систем используется метод наименьших квадратов (МНК). Но в школе это не проходят.
Для приведённой системы решение по МНК будет x = -10,86; y = -5,83
Тогда вообще непонятно. Можно объяснить решение с помощью производной или с помощью матриц. С помощью матриц легче, но матрицы в школе точно не изучают. Скорее всего, ошибка в задании.