Это на формулу сложного радикала задача:

Вынести корень из двух и подставить, приняв a=8 и b=24-8√5. Тогда правая часть равна как раз твоему выражению будет, а левая будет равна √(8+√(24-8√5)) = √(8+2(√(6-2√5))) = √(8+2(√(1-√5)²))=√(8+2(√5-1))=√(6+2√5)=√(1+√5)² = 1+√5

Домножим на вынесенный сначала корень из двух и получим ответ: √2(1+√5)=√2+√10

То есть ответ А на твоей распечатке.