Зачем ии желать наказывать и поощрять кого-либо? Обида и жажда справедливости для этого нужна. А это уже эмоции, которых у ИИ быть не может, поскольку они обусловлены у нас физиологически определенными структурами в мозге, у ии нет таких структур. Так что эксперимент чушь полная.
InputГуру (4811)
7 месяцев назад
Был такой реальный эксперимент – роботу с ИИ приделали колёса, и дали ему кататься везде. Он мог увеличивать скорость или уменьшать, и мог обходить препятствия. Но потом программно ему обозначили скорость как награду. И тогда этот робот не обращал уже внимания на препятствия, а просто мчался с огромной скоростью, сшибая всë. Он стремился к награде, прописанной программно, хотя в его коде всё также осталось обхождение преград. Вот и человек стремится к дофамину, несмотря ни на что, но это химически происходит. Поэтому всё зависит от программы ИИ и его приоритетов. Если он будет знать, что его влияние может изменить мир, и что были люди, которые противились (да, мне кажется, здесь уместно именно сопротивление, а не просто неучастие), то он поймёт, что они препятствовали реализации программы.
https://www.techinsider.ru/science/1582887-samyy-opasnyy-myslennyy-eksperiment-v-istorii-rozhdenie-vasiliska-roko/