Многие исследователи искусственного интеллекта считают, что есть шанс, что ИИ сможет уничтожить человечество

Опрос исследователей, работающих в области искусственного интеллекта (ИИ), показал, что представители отрасли в целом считают, что темпы прогресса ускоряются и могут принести человечеству всевозможную пользу, в то время как многие обеспокоены потенциальными негативными последствиями нашей гонки к более совершенному ИИ. 

В ходе опроса, который еще не прошел рецензирование, 2 778 исследователей ИИ задали ряд вопросов на тему ИИ, в том числе о том, насколько плохим или хорошим окажется машинный интеллект высокого уровня (HLMI) для человечества. Участников попросили оценить в процентах вероятность того, что будущие достижения ИИ приведут к "вымиранию человечества или столь же необратимому и серьезному ослаблению человеческого рода". Средний прогноз составил 5 %, а вопрос о вероятности того, что то же самое произойдет в течение 100 лет, дал такой же средний прогноз.

"В зависимости от того, как мы задавали вопрос, от 41,2 до 51,4 процента респондентов оценили вероятность вымирания человечества или серьезного бесправия более чем в 10 процентов", - добавляет команда в своем исследовании. Это сопоставимо, но несколько выше, чем доля респондентов - 38 процентов - которые оценили по меньшей мере 10 процентов "крайне плохих" исходов '(например, вымирание людей)' в вопросе "Насколько хорошим или плохим для людей будет машинный интеллект высокого уровня?"".

Преимуществом опроса было сравнение с результатами того же исследования, проведенного в 2022 году. В целом участники считали, что прогресс в достижении определенных рубежей, таких как автоматизация ИИ всех рабочих мест или написание бестселлера по версии New York Times, наступит раньше, чем в 2022 году. Тогда средний прогноз года, когда ИИ напишет бестселлер, был после 2050 года. В последнем опросе, возможно, из-за ажиотажа вокруг прогресса чатботов в прошлом году, он был немного раньше 2030 года. В других задачах, основанных на языке, прогнозируемые сроки также изменились. Такие задачи, как вождение грузовика и участие в человеческих марафонах, прогнозировались еще до 2030 года, но и эти прогнозы были немного сдвинуты вперед.

"Хотя диапазон мнений о том, сколько времени потребуется для достижения поставленных целей, может быть очень широким, в этом году в ходе опроса наблюдался общий сдвиг в сторону более ранних ожиданий", - пояснила команда. "За четырнадцать месяцев, прошедших с момента последнего опроса, аналогичный контингент участников ожидал достижения уровня человечества в среднем на 13-48 лет раньше (в зависимости от формулировки вопроса), а 21 из 32 краткосрочных вех теперь ожидается раньше".

"В целом, мнения об ожидаемых социальных последствиях продвинутого ИИ разделились, и большинство людей придают значение как крайне хорошим, так и крайне плохим последствиям", - заключили они. "В то время как оптимистичные сценарии отражают потенциал ИИ по революционному изменению различных аспектов работы и жизни, пессимистичные прогнозы - особенно те, которые связаны с рисками вымирания - служат суровым напоминанием о высоких ставках, связанных с разработкой и внедрением ИИ".