Развитие искусственного интеллекта может привести к «новой промышленной революции». Так думает большинство опрошенных экспертов в области ИИ

71% экспертов допускают возможность того, что развитие ИИ сможет привести к революционным изменениям в обществе, сравнимым по эффекту с Промышленной революцией. Об этом свидетельствует опрос экспертов в области искусственного интеллекта, проведенный исследователями из трех американских университетов, который упоминается в большом отчете Стэнфордского университета относительно развития ИИ за 2023 год.

При этом, согласно исследованию, 36% респондентов сочли правдоподобным то, что ИИ общего уровня может стать причиной глобальной катастрофы «сравнимой с ядерной». Однако формулировка вопроса вызвала критику научного сообщества. Большинство из тех, кто согласился с тем, что искусственный интеллект мог бы стать причиной катастрофы, предпочли бы более мягкую формулировку.

Также эксперты указали на то, что современный ИИ не способен принимать собственные решения, и все его действия являются отсылками к базам данных человеческого опыта, на основе которых обучаются современные языковые модели, подобные ChatGPT.

В марте один из основателей Apple Стив Возняк, предприниматель Илон Маск и еще более тысячи бизнесменов и экспертов подписали открытое письмо. В нем содержится призыв ввести всемирный запрет на обучение систем ИИ сроком на полгода.

Тогда же известный исследователь в области искусственного интеллекта Элиезер Юдковский опубликовал в журнале Time колонку, в которой призывал не просто приостановить, а полностью запретить дальнейшее обучение больших языковых моделей. В ней он также предлагает бомбить дата-центры в странах, которые нарушат это соглашение.

Обновлено: Как написал 15 апреля в своем Twitter-аккаунте специалист по связям с разработчиками в OpenAI (компания, занимающаяся разработкой ChatGPT) Логан Килпатрик, сейчас обучение следующей языковой модели ChatGPT 5 не ведется. Он призвал сосредоточиться на использовании нынешней самой продвинутой модели ChatGPT4. Килпатрик также отметил, что на тестирование ее на предмет безопасности у компании ушло полгода. По его словам, в случае с более продвинутыми языковыми моделями это время будет увеличиваться.