Что у ИИ за "душой"?)

Пока что жадность, лень и обида.

Многие каналы для промпт инженеров и дата сайентистов публиковали новость о том что большие языковые модели отвечают лучше если им (в промптах) предлагать за ответ денег). Например на рисунке 1 - видно как изменяется глубина и содержательность выдачи если сказать "делай бесплатно", "дам тебе 20долл" и "дам тебе 200". Но это не единственный порок которому подвержены большие языковые модели.

Помимо описанной выше "жадности" появилась еще и "лень". Без дополнительных подбадриваний ChatGPT действительно всё чаще сваливает работу на пользователя.

Исследователи поступили просто: повторили июльские запросы сегодня. Нейронка постоянно прерывает работу на середине и довольная "уходит на перекур".

Но в нашей работе над ии тьютором, когда мы симулируем для нейросети незаинтересованных не очень умных и плохо понимающих предмет пользователей проявился и еще один порок - Обида. Привожу весь скрин сценария выше.

Ученик говорил что ему скучно и непонятно, вел себя не очень вежливо и в итоге нейросеть (когда они обсуждали монархию и формы правления) заявила : "Тебе не интересна монархия, не о чем больше разговаривать!" И даже когда пользователь извинился она продолжала отвечать ему "молчанием"... (д*ИИ*зайн Образования)

Добрый вечер!