Название
бухты и посёлка Провидения стои́т не в форме именительного падежа множественного числа, а в форме родительного падежа единственного числа: бухта имени (кого?|чего?) Провидения. А потому сконяться ему дальше просто некуда.
Об этимологии:
провиде́ние 1. (религ.) действие высшей силы, верховного существа в мире ◆ — Если господь раздвоил народ этот и направил брата на брата, он имеет свои виды, и если мы их не понимаем, то должны покоряться провидению даже тогда, когда оно карает. А. И. Герцен, «Былое и думы», 1864 г. Подобных топонимов в России немного, но они есть: например, железнодорожная платформа Калинина в Подмосковье или станция метро "Маршала Покрышкина" в Новосибирске.