Если вы хотите зайти на СВОЙ сервер, то Вам нужно установить параметры:
server.secure 0
server.encryption 0
Для настройки и управления СВОЕГО сервера, СОВЕТУЮ использовать утилиту Rust Server Manager ( при желании можно найти бесплатно ), облегчите себе жизнь)
P.S. Если вы только что создали сервер и вас на него не пускает даже после смены параметров защиты сервера, и вы получаете ошибку аутентификации или типо того, посмотрите этот гайд:
https://server-rust.ru/threads/kak-razreshit-piratam-zaxodit-na-server-bez-licenzii-i-bez-ispolzovanija-luma.2578/там нужно подправить кое что в файле сервера ( и советую туже процедуру над аналогичным файлом ( с тем же именем ) в клиенте, и будет Вам счастье)