Термин «сингулярность» возник 35–40 лет назад в тот момент, когда компьютерные технологии стали использоваться для автоматизации принятия решения и их развитие двинулось в сторону создания искусственного интеллекта (ИИ). Но именно сейчас, по мнению модератора — директора направления «Молодые профессионалы» Агентства стратегических инициатив по продвижению новых проектов (АСИ) Дмитрия Пескова — стали появляться первые признаки сингулярности: в технологической гонке человечество научилось создавать продукты и технологии быстрее, чем может осмыслить принцип их действия. По сути происходит отказ и новаторов от понимания сущности, ориентация на «магию черного ящика» в стремлении быть в этой гонке первым. Цифровизация выступает частным случаем в общем потоке технологического развития на принципах, описанных выше. И несмотря на то, что от общества нет консолидированного запроса по поводу цифровизации, так как общеизвестно, что технологическая эффективность, как правило, ассоциируется с сокращением количества рабочих мест, вытеснением человека из процесса создания стоимости, она активно продвигается и развивается на общегосударственном уровне.
При этом условия формирования экономики доверия, представляющейся единственной прогрессивной формой общественного устройства при переходе к новому технологическому укладу — как внутри стран, так и на международной арене — требуют осознания и ответственности по отношению к течению процессов научно-технического прогресса. Так как сингулярность — не только возможность, но и угроза. Возникает дилемма: защитное нормотворчество и регуляторика или осмысление и ответственное управление процессами технологического развития. Дмитрий Песков сформулировал проблему так: юристы должны сделать выбор, в чем их роль — в оказании услуг заказчику или принятии ответственности за будущее планеты. Следует отметить, что в некоторых странах уже сделаны шаги в сторону неосознанного, механического применения методов цифровизации и ИИ в правовом поле: так персонификация права через автоматизированную оценку социального рейтинга в Китае уже таргетирует действия граждан, а отмена в США сетевой нейтральности формирует, по словам руководителя Федеральной службы по интеллектуальной собственности (Роспатент) Григория Ивлиева, «цифровой феодализм». Такие отношения власти и населения не способствуют тому, чтобы проникаться взаимным доверием. По мнению заместителя Министра экономического развития Российской Федерации Саввы Шипова, такие модели не делают людей более счастливыми, что служит дополнительным аргументом актуальности обсуждаемой на сессии темы.
Коренной вопрос сформулирован так: ИИ — это объект или субъект правоотношений? Само наличие ответа на этот вопрос (безотносительно того, какой конкретный ответ будет выбран) — это уже защита от сингулярности. В целом, это вопрос формирования ответственности за применение ИИ, кто и как отвечает за решения, принимаемые ИИ и их последствия. По мнению вице-президента по корпоративным и правовым вопросам, члена правления «МТС» Руслана Ибрагимова, кто будет готов нести эту ответственность, тот и будет контролировать мировой процесс. И здесь существует антитеза: защищаем ли мы человека (от ответственности за решения ИИ) или человечество от последствий таких решений.
Другой серьезный аспект дискуссии заключается в целеполагании права, связанном с развитием технологий, продуктов и рынков, которое отмечали руководитель Роспатента Григорий Ивлиев и генеральный директор корпорации «Российский учебник» Александр Брычкин. Принципиальную значимость имеет не нормотворчество само по себе, а выявление тех целей, которые мы хотим достичь; то есть, как отметил Григорий Ивлиев, важным становится «мягкое» регулирование — регулирование через показатели.
Мы всегда живем на пороге сингулярности. Заместитель Министра здравоохранения Российской Федерации Сергей Краевой замечает, что невозможно определить универсальный, абсолютно правильный закон, поскольку истина очень конкретна и индивидуальна, и потому динамична. Норма и право, в связи с этим, это осознание и признание существующего положения вещей. Поэтому нормы должны возникать по мере изменения действительности. В осмыслении действительности будет формироваться предмет нормы права и общие правила его регулирования. Основной вопрос в том, чтобы эти новые нормы были согласованы с общественностью и более динамично входили в жизнь.
Поскольку приоритеты определяются на высшем уровне, процесс поиска ценности для бизнеса сопряжен с выявлением полезных для широкого общества технологий. Ключевую роль здесь играет процесс согласования с обществом. В отсутствии согласованности с обществом, по мнению президента НП «Содействие развитию и использованию навигационных технологий» (НП «ГЛОНАСС») Александра Гурко, полезность беспилотных транспортных средств в ближайшие 5–7 лет неочевидна. Решения, которые принимаются на частном уровне, не сообща, но влияют на всех, также выступают основой для роста неопределенности и повышения рисков развития рынков. При этом сама цифровизация несет множество возможностей для согласования. С одной стороны, возможно внедрение механизмов получения обратной связи от населения (реализовано в рамках платформы «Госуслуги», в приложении для сообщения о любых проблемах в Сингапуре). С другой стороны, возможно включение населения в процессы развития цифровизации, через просвещение — получение образования в этой сфере позволяет продемонстрировать выгоды цифровизации и повысить общественный консенсус.
В обсуждении было подчеркнуто, что все технологические инновации могут быть подразделены на два основных вида. Первый из них тормозит отсутствие нормотворчества, они нуждаются в нормативном регулировании, чтобы развиваться. Другой вид технологий (таких как блокчейн) способен развиваться безотносительно наличия или отсутствия регулирующей нормы. Осознание общих принципов и условий развития каждого из двух видов также способствует принятию более взвешенных решений в государственном управлении. Для первого вида технологий, по мнению Саввы Шипова, критическую важность имеет формирование механизма создания «песочниц» — выделенных территорий с индивидуальным правовым статусом и регулированием, причем ориентированных на конкретные цели. Стоит отметить, что территориальная сингулярность в России гораздо более вероятна для физического пространства, нежели для регуляторного. Это следует понимать в том смысле, что непредсказуемость изменений физической среды в пространстве России находится на более высоком уровне. Существует вероятность, что в ближайшие годы между Москвой и Санкт-Петербургом будет запущен скоростной беспилотный транспорт, что станет кардинально отличать это пространство (с технологической точки зрения) от всей остальной территории страны. Для нормативного пространства прогнозируется гораздо большая однородность по всей стране. Для преодоления технологических разрывов в пространстве необходимо формирование концепции управления изменениями, которая бы имела территориальное приложение и позволяла бы разрабатывать решения по технологическому преобразованию среды с учетом особенностей каждой территории. На этой основе возможно формирование сценариев применения продуктов и услуг Национальной технологической инициативы.
Типология технологий, как отметил Руслан Ибрагимов, определяет и разнообразие правового на них воздействия — так в ходе дискуссии были выделены три основные роли права: упорядочивающая (снимающая барьеры), пример: регулирование беспилотного транспорта; регулирующая, например, для телемедицины; охранительная, к примеру, в области применения ИИ.
Авторы:
Екатерина Валерьевна Азимина, кандидат экономических наук, профессор, доцент кафедры экономики и управления качеством Санкт-Петербургского государственного экономического университета;
Наталья Андреевна Рослякова, кандидат экономических наук, младший научный сотрудник Института проблем региональной экономики Российской академии наук
Экспертные аналитические заключения по итогам сессий деловой программы Форума и любые рекомендации, предоставленные экспертами и опубликованные на сайте Фонда Росконгресс являются выражением мнения данных специалистов, основанном, среди прочего, на толковании ими действующего законодательства, по поводу которого дается заключение. Указанная точка зрения может не совпадать с точкой зрения руководства и/или специалистов Фонда Росконгресс, представителей налоговых, судебных, иных контролирующих органов, а равно и с мнением третьих лиц, включая иных специалистов. Фонд Росконгресс не несет ответственности за недостоверность публикуемых данных и любые возможные убытки, понесенные лицами в результате применения публикуемых заключений и следования таким рекомендациям.
