Mail.ruПочтаМой МирОдноклассникиВКонтактеИгрыЗнакомстваНовостиКалендарьОблакоЗаметкиВсе проекты

Что вы думаете о мысленном эксперименте "Василиск Роко"?

Input Гуру (4811), закрыт 7 месяцев назад
Понимаю, что среди вас может быть пока ещё совсем мало технофутуристов, но это исправимо...))

https://www.techinsider.ru/science/1582887-samyy-opasnyy-myslennyy-eksperiment-v-istorii-rozhdenie-vasiliska-roko/
Лучший ответ
Трикотэ Оракул (61422) 7 месяцев назад
Страшное дело. Но операция туман была ещё страшнее, когда нибудь я наберусь смелости и опишу её в подробностях.
Остальные ответы
Kongri Просветленный (26974) 7 месяцев назад
"Мысленный эксперимент" - какая-то туфтень, а не наука
Amor fati Оракул (51884) 7 месяцев назад
Зачем ии желать наказывать и поощрять кого-либо? Обида и жажда справедливости для этого нужна. А это уже эмоции, которых у ИИ быть не может, поскольку они обусловлены у нас физиологически определенными структурами в мозге, у ии нет таких структур. Так что эксперимент чушь полная.
InputГуру (4811) 7 месяцев назад
Был такой реальный эксперимент – роботу с ИИ приделали колёса, и дали ему кататься везде. Он мог увеличивать скорость или уменьшать, и мог обходить препятствия. Но потом программно ему обозначили скорость как награду. И тогда этот робот не обращал уже внимания на препятствия, а просто мчался с огромной скоростью, сшибая всë. Он стремился к награде, прописанной программно, хотя в его коде всё также осталось обхождение преград. Вот и человек стремится к дофамину, несмотря ни на что, но это химически происходит. Поэтому всё зависит от программы ИИ и его приоритетов. Если он будет знать, что его влияние может изменить мир, и что были люди, которые противились (да, мне кажется, здесь уместно именно сопротивление, а не просто неучастие), то он поймёт, что они препятствовали реализации программы.
Amor fati Оракул (51884) Ten million fireflies, он не к награде стремится, а к результату. Результат - достижение на большей скорости. Человек не стремится к дофамину. Дофамин это нейромедиатор мотивации. Чем его больше, тем сильнее человек замотивирован достичь чего-то...
Похожие вопросы