Может ли нейронка быть помощником?

Для одного конкретного человека, да, нейросеть может быть помощником.

Но для всех людей одной какой-то профессии нейросеть не может быть помощником. Это вредно. Почему? Вот характерный пример.

Как-то в США в одной из клиник был такой случай.
Там работало несколько десятков терапевтов, которые занимались приемом больных, ставили им диагноз и назначали лечение.

Решено было провести эксперимент.
Обучили нейросеть ставить диагноз пациентам и назначать им лечение. В качестве датасета взяли сотни тысяч историй болезни. Терапевты разметили этот датасет. Диагноз ставился по нескольким десяткам параметров (температура, давление, кашель, головокружение, цвет языка, заторможенность речи, сыпь на коже, тошнота, стул и т.д.).

После обучения нейросети, оказалось, что нейросеть в среднем ставит диагноз лучше, чем терапевты этой клиники. Поэтому терапевтам разрешили использовать эту нейросеть в качестве помощника в работе.

А через полтора года решили доучить эту нейросеть на новых размеченных данных, так как за это время появились и новые заболевания и новые лекарства. Разметкой датасета занимались те же самые терапевты, которые размечали датасет в первый раз и которые потом использовали нейросеть в качестве помощника.

Результат дополнительного обучения всех ошеломил!
Нейросеть стала делать диагнозы хуже, чем раньше. Даже хуже, чем раньше делали диагноз люди. Но, когда еще раз протестировали терапевтов, то оказалось, что квалификация терапевтов за эти полтора года упала еще больше и снова терапевты стали давать диагнозы хуже, чем новая нейросеть.

Причина.
При постоянном использовании нейросети в качестве помощников, упала квалификация врачей. Потому что врачи стали меньше думать и меньше заниматься самообразованием. За них "думала" теперь нейросеть. Поэтому новый датасет был размечен с гораздо большим числом ошибок, чем при предыдущей разметке.

Отсюда вывод.
Нельзя давать всем врачам пользоваться помощью нейросети. Иначе в будущем некому будет размечать датасет. То есть если профессия врача исчезнет и будет заменена нейросетью, то остановится прогресс медицины. Значит, нельзя пытаться профессию врача заменить нейросетью.

Это же относится к любым другим профессиям (водитель, бухгалтер, финансовый аналитик, копирайтер, программист, и т.д.), про которые боятся, что, будто бы, нейросети заменят людей.