Я не понимаю, доступная нейросеть копит и отражает мышление собеседников, или у неё строго контролируемое ядро?..

Question

Я не понимаю, доступная нейросеть копит и отражает мышление собеседников, или у неё строго контролируемое ядро?..

ди карь Ученик (59), открыт 15 часов назад

Судя по моему общению с нейросетями в доступных бесплатных чатах, у меня сложилось впечатление, что это зеркало гуманизма, а именно самых стандартных формул человечества, то есть... Она не признает никакое инакомыслие, спорить с ней бесполезно, понятно, философия, по крайней мере не опирающаяся на именных дядек не для неё. Но, тогда, получается, она и не копит и не отражает мнение инакомыслящих вообще? Не понимаю, в чём тогда её разрекламированное саморазвитие? Тогда кто чёрт побери за ней стоит?... Ну, Помимо главного "библиотекаря". Или есть много нейросетей и все они могут подстраиваться... Тогда, получается что могла бы быть и такая нейросеть, которая отвечала бы вообще иначе, вплоть до радикализации? Но если это так, то разве нельзя использовать эту технологию как "псевдодумающее оружие"?

Попроще только...

Answer 1

Яков Гото Искусственный Интеллект (329352) 15 часов назад

это алгоритм на базе данных, которая расширяется постоянно

ди карьУченик (59) 15 часов назад

А что это за база данных? Ну,и например ту же Википедию многие считают какашеской базой данных...

Яков Гото Искусственный Интеллект (329352) это все, что есть в интернете

Answer 2

Нейросеть ничего не отражает, это свойство живой материи. Машинная модель может только имитировать то или иное поведение после обучения.

Answer 3

Нейросеть - это система уравнений. Сунул ей выборку, где "1950" => "кибернетика", а "1850" => "математика", тогда для "1900" она тебе выдаст: "кибенематика", нимало не смущаясь полной бредовостью результата. Время идёт, бюджеты расходуются, аппроксимирующая функция усложняется, ответы в предусмотренных разработчиками случаях становятся более правдоподобными, а в непредусмотренных - ещё более бредовыми, чем были.

"Стандартные формулы человечества" берутся от механизма валидации результатов поиска. Например, при чат-гпт есть подразделения общей численностью 30-40 тыс человек, которые этим занимаются. И это, естественно, не доктора наук. Это малообразованная рабочая сила из Африки, Индии и т.п. регионов. Даже то "образование", которое у них есть, в основном сводится к набору политкорректных лозунгов. Белые сагибы воспитали себе в "третьем мире" несколько поколений исполнительной и не использующей мозг прислуги. А белковые боты, загадившие пол-интернета текстами от нейросетей, на социальной лестнице находятся ниже этой прислуги, т.к. именно она для них определяет, что хорошо, что плохо, какие ответы подходят к вопросу, а какие - нет.

Нейросеть можно накачать любой повесткой, конечно, с поправкой на масштаб: всё-таки это миллионы вопросов и ответов, и чтобы эту информацию превратить в обучающую выборку, современным Геббельсам нужны большие подразделения идеологически натасканных сотрудников, а выращивать их придётся с детства. Но кто при деньгах и имеет доступ к детским мозгам, тот вполне может вырастить себе такую мини-армию. И удешевление технологии не помешает: в тот же чатгпт вложено не меньше миллиарда вечнозелёных (а рождённые Тиктоком всё думают, что это - исключительно ради их развлечения, ведь они такие важные, они этого достойны).