«Крестный отец искусственного интеллекта» говорит, что правительства должны сотрудничать, пока не стало слишком поздно

Джеффри Хинтон, наиболее известный как крестный отец искусственного интеллекта, предупредил, что страны должны работать вместе, чтобы обучать искусственный интеллект, пока он не является враждебным.

Пионер искусственного интеллекта и лауреат Нобелевской премии мира призывает правительства по всему миру сотрудничать в обучении систем искусственного интеллекта, чтобы они не причиняли вреда человечеству. Он предупреждает, что быстро развивающиеся технологии, вероятно, очень скоро превзойдут человеческий интеллект.

Выступая в субботу на Всемирной конференции по искусственному интеллекту (WAIC) в Шанхае, Хинтон сказал, что, несмотря на расходящиеся национальные интересы, ни одна страна не хочет, чтобы ИИ доминировал над человечеством.

Он отметил, что маловероятно международное сотрудничество в области наступательного использования ИИ, такого как «кибератаки, смертоносное автономное оружие или поддельные видео для манипулирования общественным мнением». Тем не менее, страны могут сформировать «сеть институтов», которые будут руководить разработкой высокоинтеллектуального ИИ, «который не хочет избавляться от людей», добавил Хинтон. Он сравнил это предлагаемое сотрудничество с советско-американским сотрудничеством в области ядерного нераспространения во время холодной войны.

Хинтон, которого часто называют «крестным отцом ИИ», сравнил разработку ИИ с «выращиванием тигренка», который может стать опасным, когда повзрослеет.

«Есть только два варианта, если у вас есть тигренок в качестве домашнего животного. Выясните, сможете ли вы натренировать его, чтобы он никогда не захотел убить вас или избавьтесь от него», — сказал ученый.

Он объяснил, что ИИ, вероятно, будет все больше стремиться к большему контролю для выполнения возложенных на него задач по мере того, как он становится более умным, и просто «выключить его», когда он опередит человечество, не будет вариантом.

«Мы будем как трехлетние дети, а он будет как взрослый», — сказал Хинтон.

Выступая перед прессой позже в тот же день, он отметил, что «рациональным» странам должно быть относительно легко сотрудничать по этому вопросу, но сказал, что это может быть «сложно» для США при «их нынешней администрации».

В среду Белый дом объявил о своем «плане действий» по достижению «глобального доминирования» в области искусственного интеллекта за счет инвестиций, субсидий и снятия законодательных ограничений на развитие технологии.

Пекин объявил о намерении создать организацию для координации международного сотрудничества в области искусственного интеллекта. «Мы должны усилить координацию для формирования глобальной структуры управления ИИ», Об этом заявил премьер-министр Китая Ли Цян в субботу в WAIC.