Как правильно? "усилия были тщетны" или "усилия были тщётны"

Проверочное слово - "тщетА". Тут всё очевидно - Ё безударным не бывает.
Переход Е в Ё при переходе ударения на эту букву - скорее исключение, а не правило, а до 19 века таких случаев в русском языке не было вовсе.
Кроме того, обсуждаемый корень весьма стар, и в нём всегда сохранялось Е даже и под ударением: пример - "вотщЕ" (тщетно, напрасно).