Действительно ли искусственный интеллект способен мыслить или он полагается на алгоритмы и данные для принятия решений?

1.
Никакого искусственного интеллекта нет. Это выдумки журналистов и маркетологов.
Правильно говорить "искусственные нейросети языковой модели". Это правильный термин, если вы про ChatGPT и подобные программы.

2.
Естественно, что эти нейросети языковой модели не умеют думать, а полагаются на алгоритмы. Эти алгоритмы заносят в эту программу люди.

Вот самый простой пример.
Примерно год назад в 2023 году ChatGPT не умел суммировать числа. Примеры с двузначными числами, типа 34+75, он решал правильно, так как в Интернете все эти примеры уже есть, их можно найти, и ChatGPT знал, как надо продолжить строку "34+75" или как вероятнее всего надо продолжить строку "сколько будет, если сложить 34 и 75".
Но в Интернете не было всех возможных примеров с 3-значными числами. И примерно в 10% ChatGPT ошибался, когда надо было сложить что-то типа 639+641. А при сложении 4-значных чисел ChatGPT выдавал полную чушь.

Пользователи заметили, что ChatGPT при сложении не умеет держать в уме 1. Компания OpenAI исправила свой алгоритм и встроила новый алгоритм сложения чисел в ChatGPT. Теперь ChatGPT, вместо зазубривания всех примеров на сложение в Интернете, использует арифметику.
Но ChatGPT сделал это не потому что он сам осознал свои ошибки и научился правильно складывать числа, а потому что человек сменил ему алгоритм.

Сейчас (последний раз проверял в апреле 2024 года) ChatGPT не умеет правильно перемножать 5-значные числа. (Как правило первые и последние цифры произведения правильные, а в середине чушь. При перемножении 8-значных чисел идет полная чушь уже во всех цифрах.) И ChatGPT сам не понимает того, что ответы не правильные, что бы вы ему не писали в диалоге с ним. Всё будет исправлено только, когда в него встроят обычный арифметический алгоритм. (Сейчас там при перемножении работает, скорее, статистический алгоритм, который выводит в качестве результата среднестатистический результат, который по мнению алгоритма наиболее вероятен, как языковое продолжение.)