Какой породы была собака баскервилей??

Предположительно, что-то среднее между БЛАДХАУНДом и МАСТИФом.
К сожалению, все ориентируются на перевод, а не на оригинальный текст. В результате неточого перевода многие десятилетия неправильно «воображающих» облик этого зверя. Соединение непонятного — «ищейка» — и мастиф привело к тому, что большинство представляют и помнят собаку именно как мастифа.

Англичане же скорее видят в ней нечто более похожее на бладхаунда. Кстати, один из экспонатов знаменитого лондонского бара «Шерлок Холмс» — голова якобы собаки Баскервилей скорее напоминает именно бладхаунда. Переводчики книги The Hound of the Baskervilles правильно решили дать канонический вариант — «Собака Баскервилей» , а не «Гончая (борзая)…» , что было бы формально точнее. А вот с переводом смеси пород надолго запутали русскоязычного читателя.

Кстати, в самой книге прямо говорится, что неясно, какой породы была собака.
Замечу, что во времен Конан Дойля класификация пород значительно отличалась от принятой сегодня.
Наконец, слова доктора Уотсона в оригинале: «It was not a pure bloodhound and it was not a pure mastiff; but it appeared to be a combination of the two — gaunt, savage, and as large as a small lioness.» То есть, если и возможен более или менее точный ответ на поставленный вопрос, то это, предположительно, помесь БЛАДХАУНДА и мастифа.
Как известно всем почитателям частного детектива Шерлока Холмса, богатый землевладелец сэр Чарльз Баскервиль погиб от разрыва сердца, встретив в сумерках на аллее своего поместья громадную черную собаку со светящимися глазами и пастью. Только вмешательство Холмса спасло от той же участи и сэра Генри. Судя по передававшейся из поколения в поколение в семье Баскервилей рукописи 1742 года, это чудовище преследовало членов семьи не менее полутора веков.

По-видимому, Канан Дойлю попала в руки небольшая книжечка, изданная в Лондоне в 1577 году. Автор — священник, преподобный Абрахам Флеминг. Книжечка носила длинное, как полагалось в те времена, название: «Странное и ужасное Чудо, случившееся совсем недавно в приходе одной церкви в Банги, городке, что не так далеко от города Нориджа, а именно, четвертого августа лета Господня 1577-го, во время сильной бури и проливного дождя, молний и грома, какие редко бывают. С появлением создания ужасной внешности, которого явственно видели люди, собравшиеся там в тот момент. Записано и зарисовано обычным образом согласно писаному документу Абрахамом Флемингом» …
«Знаменитая» собака Баскервилей была помесью ищейки (то есть бладхаунда) и, мастифа: «Это была не чистокровная ищейка и не чистокровный мастиф, а, видимо, помесь — поджарый, страшный пес величиной с молодую львицу» . (А. Конан Дойль. «Собака Баскервилей»)