ИИ-апокалипсис: вероятность 10%. Эксперты составили рейтинг угроз искусственного интеллекта

28 июля 2026 в 1785218460
BBC News Русская служба

Развитие искусственного интеллекта множит страхи перед будущим - согласно опросам, его боится уже больше половины человечества. После того как ИИ «сбежал» сначала от Anthropic, а потом и от OpenAI, безопасность вышла на первый план, и эксперты соглашаются, что именно разрушительные способности неконтролируемого использования искусственного интеллекта несут в себе главную угрозу ИИ-апокалипсиса, пишет Русская служба Би-би-си.

Вероятность его оценивается в 10% при любом сценарии - а если ничего не ограничивать и не регулировать, то зашкаливает за 20%, следует из опроса 272 экспертов по искусственному интеллекту, сделанного лабораторией Массачусетского технологического института (MIT), одного из ведущих технических вузов мира.

Они составили рейтинг из 24 рисков и определили для каждого из них вероятность «катастрофического» развития событий до 2030 года. Под катастрофическим ущербом понимались, например, гибель более 1 млн человек, экономический ущерб свыше 100 млрд долларов или нематериальные последствия цивилизационного масштаба - такие, как крах демократических норм или права на частную жизнь.

Один из самых обсуждаемых страхов - угроза массовой безработицы - не попал даже в топ-3 и занял четвертое место по суровости последствий. Первый же относится к сценариям в стиле «Терминатора».

Самое опасное, по мнению экспертов, - это разрушительные способности вышедшего из-под контроля ИИ, который самостоятельно учится причинять масштабный вред человечеству. По разным причинам: из-за технических сбоев, в результате действий злоумышленников или «несовпадения целей ИИ с интересами человека», описывает главный риск MIT.

Какой именно вред? Обман, разработка оружия, манипулирование людьми, вмешательство в политику, кибератаки и создание более совершенных ИИ-систем вплоть до понимания собственной среды функционирования и самораспространения.

Кто спасет человечество

Второй и третий риски в апокалиптическом рейтинге связаны с первым: разработка оружия с помощью ИИ (и для кибератак, и для массового уничтожения людей), а также «ИИ-вертикаль власти» - концентрация ресурсов в руках узкого круга лиц с доступом к передовой технологии и усугубление социального и экономического неравенства.

Все это чревато социальными потрясениями и политическими кризисами. Страх перед такими последствиями растет год от года, показывают опросы во всем мире.

Например, в последнем всемирном обзоре Stanford AI Index доля респондентов, которых ИИ «нервирует», выросла к 2025 году до 52% с 39% в 2022 году. При этом число тех, кого прогресс воодушевляет, осталось почти неизменным - 53−54%.

Однако растущее беспокойство людей не выливается в какие-либо ограничения ИИ, отмечают эксперты из исследования MIT. Потому что за это отвечают те, кто получает выгоду от развития искусственного интеллекта, а те, кому он больше всего угрожает испортить жизнь, никакой власти над процессом не имеют.

«Подобный разрыв между уязвимостью и ответственностью - вещь не новая. Так, от авиа- и техногенных катастроф или от некачественных лекарств, например, страдает прежде всего население, а ответственность за предотвращение несут разработчики, производители и регуляторы», - пишут они.

«Однако в этих отраслях действуют строгие стандарты, механизмы контроля и юридической ответственности. В сфере ИИ аналогичные механизмы пока либо только формируются, либо отсутствуют вовсе. В результате наиболее уязвимые группы остаются практически беззащитными, а у ответственных за их защиту нет достаточных стимулов ограничивать риски», - заключают они.

Где работать мне тогда, чем заниматься?

Не всем отраслям ИИ угрожает в равной степени.

Те же эксперты оценили степень уязвимости 14 отраслей экономики к каждому из 24 рисков. Хуже всех выступили сектор информационных технологий и сфера национальной безопасности.

Информационный сектор крайне подвержен дезинформации, манипулированию общественным мнением и вторжению в частную жизнь. Национальная безопасность уязвима перед кибератаками и новыми видами вооружений.

Схожий рейтинг получил и финансовый сектор, где, с одной стороны, ИИ усложняет борьбу с мошенничеством и манипулированием рынком, а с другой, все больше внедряется на всех уровнях, повышая риск последствий в случае сбоев в его работе.

А наиболее защищенными по итогам анализа рисков оказались отрасли, где искусственный интеллект пока используется менее активно, - гостиничный и ресторанный бизнес, сельское хозяйство, обрабатывающая промышленность и сфера культуры и развлечений.