Выразим x  из I уравнения системы и подставим ро II:

x=k-y

(k-y)²+y²=9

2y²-2ky+k²-9=0

уравнение имеет единственное решение при D=0:

4k²-8(k²-9)=0

k²=18

k=√18

при k=√18  данная система  имеет единственное решение.