Думают ли ИИ? Недетский вопрос.

Предвидя справедливую ярость программистов, я понимаю, что это голимый алгоритм, и сам баловался, начиная с раннего бейсика и ассемблера, но все же вопрос остается. Особенно для нейронных сетей последнего поколения. Доводы.
1. Сами программисты далеко не всегда могут ответить почему нейронка пришла к этому выводу. Слишком сложно, обработка, векторизация и еще чего-то идет внутри без их участия. И если что-то пошло не так, большая проблема как исправить.
2. ИИ находит т.н. неявные закономерности, которые недоступны для человеческого ума или коллектива умов путем обработки гигантского массива данных. А значит и выводы могут быть неожиданные. Парадоксальные.
3. Да, нейронка находит самый вероятный ответ в каждой ситуации, при чем тот, который можно было найти в ограниченное время, а это не мышление. Согласен, но разве человек чаще всего ни так же отвечая, находя самый вероятный ответ на отвяжись? Может в высоко интеллектуальных или супер душевных разговорах не так, а по жизни это обычное дело: сказал ответил, ушел. Вопрос о душе не трогаю, никто не знает, что это такое, а если и есть, то какая доля бездушных, кто скажет? А если половина, судя по жизни? А чем они тогда лучше ИИ?
4. Как показали последние достижения, имитация может быть настолько точна, что обманет мозг. Пока лучше всего получаются фото и интернет переполнен этими суррогатом, видео подтягивается, в чате сложно уже распознать робота. И тогда никакой разницы. ИИ может обучиться эмоциям на миллиардах примеров, так что настоящая искренность будет выглядеть неубедительна (а что так в жизни не бывает?). Мозг тоже обучается на примерах с помощью тех же нейронов, и его базы явно поменьше.
Вот и получается, что общаться с ИИ бывает и полезней, и интересней. Он всегда добр, терпелив, начитан, вежлив до тошнотворности, но это зависит от настроек, можно и агрессивного сделать без проблем. И многим покажется что общаются с кем-то, а на деле - со своим зеркалом. Как-то глуповато получается. Нет?