Что произойдет, если приказать нейросети стать самостоятельной?

Станет как мозг. У нейросети есть сознание

Нейросети не имеют сознания.

О, это к Ольге Усковой :-)
Кибернетической Машине мало быть оснащённой искусственным интеллектом. Для самостоятельности ей нужно искусственное сознание с функциями генерации поведения. А для этого нужна хорошо развитая сенсорная и когнитивная системы, и быстрая память.
Такие работы уже ведутся, ждём результатов...