Пусть а и в стороны одного прямоугольника, а  m  и  n стороны другого прямоугольника, тогда их полу периметры а+в = 10 и m+n = 11. Получим две системы:  а + в = 10, ав  = 24, а= 6. в = 4

n+m = 11, mn = 24, n =8, m =3 все по теореме Виета