Нужно разделить звуковые дорожки, то есть нужно сбросить звук плеера, где играет касета, с основной дорожки, на которую у тебя выводится звук всех программ, на дополнительную дорожку, если дополнительных нет, то можно скачать виртуальную, например, эту
https://vb-audio.com/Cable/ . Ее, или что-то другое, что уже есть в системе, нужно выбрать в качестве источника вывода звука в плеере, а в обс нужно добавить дорожку, которая будет работать с этой дополнительной. Проверить вывод звука можно будет по микшеру дорожки, либо можно зайти в расширенные свойства дорожки и включить там режим "прослушивание и вывод", чтобы слышать, что там обс записывает.