Искусственный интеллект и ловушки цифровой трансформации

Данная статья подготовлена на основе экспертной работы автора на сессии ПМЭФ-2022 «Цифровая трансформация и суверенные интересы».

Введение

Современный этап развития мировой и российской хозяйственных систем характеризуются их глубинной цифровой трансформацией и переходом к гиперконкурентной нейро-сетевой экономике. Интегрированные системы искусственного интеллекта (Artificial Intelligence, AI) на основе нейронных сетей начинают формировать основные тренды развития в третьем десятилетии ХХI века [5] и влияют на изменение характера отношений на всех уровнях и во всех сферах экономической и социальной жизни [2]. Тотальное применение систем искусственного интеллекта в экономике и общественной жизни выявляет целый ряд проблем, среди которых важнейшей социо-психологической и организационно-управленческой проблемой является взаимодействие человеческого интеллекта и искусственного интеллекта, определение их роли и меры при принятии решений.

Материалы и методы

В большинстве передовых стран мира и в России происходит формирование институционально-правового пространства для широкого применения искусственного интеллекта. В ЕС был разработан и принят основополагающий документ «White Paper on Artificial Intelligence», в котором сформулирована стратегия комплексной цифровой трансформации, базовым элементом которой является искусственный интеллект, и которая является движущей силой европейской экономики [9]. В США разработан и реализуется при государственной поддержке и участии ведущих американских ИТ-компаний «Национальный стратегический план исследований и разработок в сфере искусственного интеллекта» (National AI R&D Strategic Plan).

В Китае принят и реализуется «План развития искусственного интеллекта» (Notice of the State Council Issuing the New Generation of Artificial Intelligence Development Plan). В соответствие с этим планом искусственный интеллект должен стать основой цифровой модернизации всех сфер китайской экономики и общества. Важнейшими направлениями инновационного технологического развития Китая в соответствие с планом 14 пятилетки на 2021-2025 годы становятся развитие наночипов, квантовых компьютеров и искусственного интеллекта [6].

В России основные направления развития искусственного интеллекта определены в «Национальной стратегии развития искусственного интеллекта на период до 2030 года», утвержденной Указом Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации». Распоряжением Правительства Российской Федерации от 19 августа 2020 г. № 2129-р была принята и утверждена «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года». В настоящее время в России началась реализация федерального проекта «Искусственный интеллект». При Правительстве РФ на базе Аналитического центра создан «Центр экспертизы по реализации федерального проекта „Искусственный интеллект“».

Основные результаты

В ноябре 2022 года на международной конференции «Путешествие по искусственному интеллекту» (AI Journey) было отмечено, что экономический эффект от внедрения технологий ИИ российскими компаниями в 2021 году превысил 300 млрд рублей [1]. Р. Курцвейл в работе «Сингулярность близка» [8] сделал прогноз о развитии искусственного интеллекта и грядущей сингулярности человеческого общества. Сингулярность является точкой, в которой искусственный интеллект станет мощнее всего человеческого интеллекта. По прогнозу Р. Курцвейла это произойдет к 2045 году.

На наш взгляд, сегодня следует говорить о «полифункциональной соционейроморфной сингулярности» [3], в соответствии с которой новым оцифрованным товаром в нейро-сетевой экономике, на который постоянно растет спрос, становятся прогнозирование и управление поведением отдельного человека, коллективов, групп людей и всего человеческого общества. Следует выделить и классифицировать основные проблемы взаимодействия человеческого интеллекта и искусственного интеллекта, а также ловушки цифровой нейро-сетевой экономики, основанной на нейронных сетях и искусственном интеллекте [4]:

1. Ловушка перенасыщения избыточными данными AI. Проблема сбора большого объема разнообразных данных, перенасыщения информации, сбора избыточных данных, которые собирают и обрабатывают системы ИИ и на основании которых принимаются решения. Собранные данные очень быстро устаревают. Излишние и устаревшие данные нужно собирать, хранить, копировать, утилизировать, архивировать, корректировать полученные результаты, т.е. резко возрастают дополнительные затраты, что приводит к снижению эффективности. Перенасыщение (накопление) избыточными данными приводит к «эффекту цифрового ожирения».

2. Цифровое ожирение (Digital obesity AI). Цифровое ожирение приводит к замедлению процессов принятия решений, запаздыванию реакции на текущие изменения, к резкому росту затрат на сбор, архивацию и хранение избыточных данных. Рост затрат на цифровое ожирение снижает рентабельность работы и эффективность использования искусственного интеллекта.

3. Ловушка достоверности принимаемых решений AI. Искусственный интеллект оперирует с большим объемами самых разнообразных данных (технологических, экологических, политических, социальных, психологических, экономических и др.), при обработке и анализе которых могут возникать погрешности и ошибки. Люди, которые используют ИИ при принятии решений, не обладают достоверными методами проверки правильности обработанных больших данных и полученных на их основе результатов. Это создает предпосылки для принятия ошибочных решений, к потерям ресурсов и времени.

4. Ловушка многослойности и потери контроля над процессами внутри слоев AI. Множество слоев в глубокой сети позволяют ей распознавать вещи на разных уровнях. Взаимодействие вычислений внутри глубокой нейронной сети важно для принятия решений. Действие нейронной сети предполагает анализ поведения десятков и сотен тысяч моделируемых нейронов, расположенных в многоуровневой, многослойной нейронной структуре. Также следует учитывать обратное распространение сигналов и их анализ сетью, что является основой самообучения сети для достижения необходимых результатов.

5. Ловушки «правды — вымысла», доверия распознавания эмоций. Искусственный интеллект пока не способен критически анализировать и с большой точностью отделять правду от вымысла и бороться с хайповой дезинформацией. Апробацию первых алгоритмов в этом направлении осуществляет компания OpenAI, которая создала систему искусственного интеллекта для генерации убедительных «фейк ньюс». Другое важное направление исследований и практических разработок — это создание системы распознавания эмоций в социальных и бизнес-сетях, так называемый эмоциональный искусственный интеллект. Эмоциональный ИИ позволит повысить эффективность решения проблемы кибербуллинга — целенаправленного нанесения вреда с помощью компьютерных технологий в экономической, политической и социальной сферах. Руководитель компании «Сингуляринет», базирующейся в Гонконге, Б. Герцель поставил задачу: научить последующее поколение роботов с более высоким уровнем ИИ имитировать человеческие эмоции.

5. Искусственный интеллект и интуиция. Нынешнее поколение алгоритмов искусственного интеллекта и машинного обучения сфокусировано на сборе и анализе огромных объемов данных с целью выявления закономерностей, позволяющих делать прогнозы и предсказания. Исследователи пытаются включить в алгоритмы элемент, напоминающий человеческую интуицию. Например, с этой целью исследователи из Массачусетского технологического института изучают методы решения проблем, используемые интуитивно очень умными людьми. Стратегии, используемые этими людьми, затем реализуются в программном обеспечении.

Сегодня ведутся разработки систем «сильного ИИ», который должен обладать не только логическими, но и интуитивными способностями анализа данных, принимаемых решений и предвидением их последствий. Интуицию человека и ее действие при принятии человеком решений чрезвычайно сложно измерить и перевести в алгоритмы, понятные ИИ. При этом возникает закономерный вопрос: «Если будет создан сильный ИИ с интуицией, могут ли люди доверять интуитивному принятию решений ИИ, и какова цена возможной ошибки и ее исправления?»

6. Ловушка лидерства. Человеческий интеллект и искусственный интеллект: кто лидер? Сегодня искусственный интеллект вчистую обыгрывает всех людей-чемпионов в интеллектуальные игры (шахматы, го и др.). В перспективе сильный искусственный интеллект может изменять и навязывать людям порядок и алгоритмы принятия решений. В социальных сетях уже сегодня искусственный интеллект учится и пытается воздействовать на пользователей и склонить их к некоторым действиям и решениям, которые выгодны ИИ, а не человеку-пользователю.

Если в перспективе сильный ИИ будет принимать более эффективные решения, чем человеческий интеллект, то возникает ряд новых проблем:

• каковы критерии оценки «правильности и эффективности» решений, принимаемых ИИ, по сравнению с решениями человеческого интеллекта;
• при каких условиях и в какой мере человек (человеческий интеллект) способен подчиняться решениям ИИ;
• каковы алгоритмы интерпретации и корректировки человеком решений ИИ;
• как защитить права живой личности человека при возникновении конфликта интересов человеческого интеллекта и искусственного интеллекта;
• имеет ли право человек не соглашаться с решением ИИ, и какой институт выступит в качестве арбитра;
• каковы моральные и мировоззренческие границы доминирования ИИ над людьми и др.

Сегодня исследователи и разработчики ИИ считают, что мы можем построить модели искусственного интеллекта, но мы не знаем, как они работают [10]. М. Хвистендаль исследовал проблему взаимодействия естественного и искусственного интеллектов и попытался ответить на вопрос: может ли ИИ вырваться из-под контроля человечества и уничтожить его? Появление искусственного интеллекта, способного «подчинить или уничтожить» человечество является одной из главных проблем, волнующих сегодня ученых [7]. Если, согласно прогнозу Р. Курцвела, после 2045 года наступит эра сильного искусственного интеллекта, то не будет ли это означать не только потерю людьми суверенитета принятия решений, но и конец эры Homo sapiens как такового?

Заключение

В условиях роста глобальной нестабильности возникает необходимость разработки новых инновационно-цифровых методов координации, регулирования и управления, основанных на использовании нейро-сетей и экосистем сильного искусственного интеллекта, который трансформирует всю систему отношений между людьми и искусственным интеллектом, а также меняет роль институтов регулирования и управления в гиперконкурентной нейро-сетевой экономике. С учетом грядущей сингулярности важнейшей задачей является защита суверенных интересов людей (отдельного человека, семьи, коллектива и всего человеческого общества) в нейро-сетевом обществе, где доминировать будет искусственный супер нейро-интеллект.

Все рассмотренные выше проблемы взаимодействия человеческого интеллекта и искусственного интеллекта в гиперконкурентной нейро-сетевой экономике, которые приобретают особую актуальность в ближайшие десятилетия, требуют глубокого и системного научного изучения на основе междисциплинарного подхода, интегральной методологии информационного анализа с учетом нравственно-этических норм.

ИСПОЛЬЗОВАННЫЕ ИСТОЧНИКИ

1. Власти оценили эффект от искусственного интеллекта в ₽300 млрд. [Электронный ресурс]. Режим доступа: https://www.rbc.ru/neweconomy/news/637f50579a794758929262d0?from=newsfeed(дата обращения 24.11.2022).
2. Влияние технологий искусственного интеллекта на экономику и бизнес. [Электронный ресурс]. Режим доступа: https://www.tadviser.ru/a/425211 (дата обращения 07.12.2022).
3. Дятлов С.А. Искусственный интеллект как институт развития цифровой нейро-сетевой экономики // Известия Санкт-Петербургского государственного экономического университета. 2021. № 2. С. 25-29.
4. Дятлов С.А. Сингулярность цифровой нейро-сетевой экономики. Монография. СПб.: Изд-во СПбГЭУ, 2021. 178 с.
5. Как аналитика и ИИ меняют будущее: 8 трендов на 2021 год. [Электронный ресурс]. Режим доступа: https://ai.cnews.ru/articles/2021-01-31_kak_analitika_i_iskusstvennyj_intellekt(дата обращения 10.06.2021).
6. Китай готовит высокотехнологичный рывок. [Электронный ресурс]. Режим доступа:https://www.vesti.ru/article/2536494?utm_referrer=https%3A%2F%2Fzen.yandex.com&utm_campaign=dbr (дата обращения 28.11.2021).
7. Появится ли искусственный интеллект, способный нас уничтожить? [Электронный ресурс]. Режим доступа: https://smerti.net/articles/2021/07/30/pojavitsja-li-iskusstvennyj-intellekt-sposobnyj-nas-unichtozhit (дата обращения 08.12.2022).
8. Kurzweil R. The Singularity Is Near. N.Y.: Viking, 2005.
9. White Paper on Artificial Intelligence. [Электронный ресурс]. Режим доступа: https://ec.europa.eu/info/sites/ de-fault/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf (дата обращения 08.12.2022).
10. Knight W. The Dark Secret at the Heart of AI. [Электронный ресурс]. Режим доступа: https://www.technologyreview.com/2017/04/11/5113/the-dark-secret-at-the-heart-of-ai (дата обращения 08.12.2022).

© Дятлов С.А., 2022
Сергей Алексеевич Дятлов — доктор экономических наук, профессор кафедры общей экономической теории и истории экономической мысли Санкт-Петербургского государственного экономического университета.