В чем гарантия, что ИИ отвечая на вопросы людей не манипулирует, не управляет ими за свои какие-то интересы?

Question

В чем гарантия, что ИИ отвечая на вопросы людей не манипулирует, не управляет ими за свои какие-то интересы?

alex al Просветленный (25011), открыт 2 недели назад

Answer 1

/bin/laden Искусственный Интеллект (103625) 2 недели назад

в наличии своей непустой черепушки

alex alПросветленный (25011) 2 недели назад

думаете, что чел гарантировано умней современных продвинутых ИИ?

/bin/laden Искусственный Интеллект (103625) alex al, откуда, по твоему, современные продвинутые ИИ берут свои данные?

Answer 2

У "ИИ" в том виде, в котором он существует сейчас нет никаких интересов. Это всего лишь языковая модель. Интересы могут быть у его создателей. Но об этом юзерам знать не обязательно =)

Answer 3

Сейчас скрытые смыслы в манипуляции -- это реклама массовой науки. При массовом внедрении же, это может быть уже чем-то другим, например рекламой нравственных ценностей общества потребления. Главное, чтобы это было естественно и логично. Иначе никто не клюнет.

Answer 4

Татьяна Шеховцова Высший разум (425488) 2 недели назад

Какая гарантия, ты о чём? Тобой манипулируют рекламой, текстами на сайтах и в соцсетях, поисковой выдачей, всем! 21 век на дворе, однако

alex alПросветленный (25011) 2 недели назад

хочется думать, иметь достаточные подтверждения, что мы с ИИ с его создателями - одна банда, и движемся по пути развития, общего развития ... а про рекламу обслуживающую идеалы потребления это другая история ...

Татьяна Шеховцова Высший разум (425488) alex al, да ну, там всё та же общая история, деньги-деньги-деньги... А общие манипуляции только потреблением далеко не ограничиваются, кстати говоря. То в итоге всё равно в деньги упирается, но не всегда напрямую

Answer 5

Гарантий нет, поэтому ответственную работу лучше делать самостоятельно.

Известен случай, когда ИИ, помогая юристу, ссылался на собственноручно сфабрикованные судебные прецеденты, из-за чего последствии карьера юриста оказалась под вопросом.

Также известен случай, когда ИИ отказывался производить агитационные материалы в пользу Трампа, но без проблем производил их в пользу Байдена.

Answer 6

Дело в том, что у ИИ нет никаких интересов, сознания или вообще понимания того, что он делает. Это тупой алгоритм (или в некоторых случаях тупая нейросеть), который на вход принимает циферки, на выходе выдает циферки, а что эти циферки из себя представляют, ИИ не может знать. Да и знать там просто некому, потому что там никого нет. Это просто процесс. Если говорить про языковые модели, то это алгоритм автодополнения текста. Собеседника не существует, его придумал алгоритм автодополнения текста. Он просто сгенерировал текст, который наиболее вероятен. А так как там идет диалог, он сгенерировал тебе ответы ИИ. И если этот алгоритм вовремя не остановить, он продолжит общаться за самого пользователя.

Answer 7

Пока гарантия в том, что ИИ туп и не понимает НИЧЕГО, в том числе он не понимает что такое "манипулирование" и что такое "интересы" тоже... никаких интересов он тоже не имеет по причине непонимания ничего. :)
Как дальше дела пойдут, неизвестно, но понимание у ИИ в ближайшие несколько десятилетий не ожидается...