Будем считать, что все кассеты перенумерованы. Их 3+5=8 штук.

1-3 - классика, 4-8 - рок.

Количество способов положить кассеты в стопку 8! - количество перестановок из 8 объектов.

Чтобы кассеты не были перемешаны, надо положить снизу 3 кассеты с классикой,

это можно сделать 3! способами, а потом выше - 5 кассет  с роком, это 5! способов.

Всего получим 3!*5! способов, чтобы были не перемешаны жанры.

Но можно положить снизу 5 кассет рок, а сверху 3 с классикой, получим тоже 5!*3! способов.

По формуле классической вероятности количество благоприятных способов делим на общее

количество: Р= 2*3!*5!/8!  = 2*2*3 *1*2*3*4*5  / (1*2*3*4*5*6*7*8)=

     = 2/(7*8) = 1/28

Ответ: 1/28