нефинансовый институт развития
крупнейший организатор конгрессно-выставочных мероприятий
Вход в Единый личный кабинет
Восстановление пароля
Введите адрес электронной почты или телефон, указанные при регистрации. Вам будет отправлена инструкция по восстановлению пароля.
Некорректный формат электронной почты или телефона
Статья
29.08.2019

В погоне за когнитивным профицитом

Минувшей весной произошло два знаковых события. Первое — крушение авиалайнера Boeing 773 MAX 8 в Эфиопии вскоре после того, как один самолет этой модели уже разбился из-за особенностей автоматической системы управления. Второе — по состоянию на конец марта 1% населения КНР, или 13,5 млн человек, оказался внесен в список «ненадежных» в рамках работы национальной системы кредита общественного доверия.

Эти два очень разных примера говорят об одном — о нарастающем использовании систем с элементами искусственного интеллекта (ИИ) при принятии этически важных решений. Как сложится судьба человека и даже вопросы жизни и смерти — во все большей степени в руках систем с элементами ИИ.

Развитие этой тенденции потребует коренной трансформации этических систем. Таков главный вызов. Нам предстоит создать общество, в котором этика человека будет изменена в результате интеграции ИИ в процесс принятия жизненно важных решений.

Иначе говоря, каждый человек должен будет получить ответ на вопрос, почему принятие жизненно важных решений искусственными разумными системами приемлемо, благотворно, желательно и в конечном итоге справедливо.

Это ужасный выбор. В каком-то смысле другого пути у нашей технологической цивилизации уже нет.



Распад этических систем

Вопрос о трансформации этики под давлением ИИ появился в повестке дня в тот самый момент, когда этические системы предыдущих волн оказались в фазе распада.

Это касается и традиционных этических систем, сформировавшихся в эпоху восхождения аграрных обществ. Система ответов о смысле жизни для человека, завершающего свой жизненный путь в 35–40 лет, не слишком подходит для человека, живущего в среднем 70–80 лет, для которого 35–40 лет — это и период психофизиологического расцвета, и время болезненной переоценки собственного пути.

Прежние ответы на вопрос «Почему я должен менять бесценные часы своей жизни на тот или иной тип коллективно одобряемого поведения?» все меньше удовлетворяют представителей самых разных слоев в самых различных обществах по всему миру.

Впрочем, устаревают не просто прежние ответы — скорость изменений такова, что деградируют прежние механизмы передачи этих ответов. Система передачи от поколения к поколению ценностей, знаний и навыков дает сбой за сбоем, поскольку слишком часто опыт обучающих теряет свою ценность раньше, чем на него возникает запрос.

Простой пример. Первый iPhone был представлен в 2007 году, за следующие 10 лет смартфоны радикально изменили модель потребления, заставив измениться целые отрасли: от такси и розничной торговли до медиа и политической борьбы. Еще через 10 лет под влиянием технологий,
в частности ИИ, в мире снова произойдут большие изменения.

Мир вошел в завершающую стадию грандиозного перехода, начавшегося условно с революции цен и проявляющегося в трех процессах: урбанизации, индустриализации и глобализации. Краткий по историческим меркам момент может породить иллюзию существования социально-экономического оптимума, в который можно и желательно вернуться.

В зависимости от идеологических предпочтений в качестве такого оптимума одни называют 1970-1980-е годы, другие — 1990-2000-е. Ошибаются те и другие. Невозможно ни задержаться в одной из точек перехода, ни тем более вернуться в нее.

Когнитивная гонка

В 2017 году ученые Стэнфордского университета (США) провели исследование. Группа из 30 добровольцев принимала решение о вложении средств в 36 проектов на Kickstarter. Они должны были угадать, какие проекты получат финансирование, а какие нет. При этом люди соревновались
со специальным алгоритмом.

Люди проиграли. Их прогноз совпал с реальностью в 52,9% случаев. Алгоритм прогнозировал с точностью 59,1%. Что самое поразительное в результатах этого эксперимента? Вовсе не победа искусственного интеллекта. А то, что когнитивный профицит человеческого мозга при «угадывании будущего» превысил случайные 50/50 всего на 2,9%.

На этих условных «трех процентах» и построена наша цивилизация. Все остальное — закон больших чисел. Огромное количество людей — и колоссальное количество попыток, гипотез и экспериментов, проб и ошибок в течение многих и многих веков. Представьте теперь себе цивилизацию, построенную не на условных трех, а на девяти процентах когнитивного профицита. Понятно, что общества, которые первыми комплементарно включат ИИ в свои системы управления, получат весомые конкурентные преимущества, смогут ускорить темпы своего развития.

Количество и скорость совершаемых трансакций, количество и скорость принимаемых решений постоянно растут. Например, упоминавшаяся китайская система кредита общественного доверия уже заблокировала «ненадежным» гражданам покупку 20,5 млн билетов на самолет и 5,7 млн билетов на поезд. Общественный транспорт, юриспруденция, медицина — во всех этих отраслях активно ведутся работы по внедрению систем на основе ИИ.

Означает ли это, что все менее умные люди попадут в зависимость от все более умных машин?

Вопрос сформулирован неточно. В действительности падение индивидуального IQ вовсе не означает, что люди становятся глупее. Дело в том, что человеческий разум имеет групповую природу. Высшая психика слишком энергоемка (мозг потребляет 20–40% всей энергии организма), и с точки зрения особи она окупается лишь в социуме.

Человек со своим когнитивным профицитом в «три процента» скорее довольно сообразителен, чем вполне разумен. В конце концов человека XV или XVIII века формально можно назвать глупее человека ХХ века, но эпохи Возрождения и Просвещения являются продуктами наших «более глупых» предшественников.

Операционально вопрос стоит совсем в другой плоскости. Мы уже живем в мире, где утверждать, что пилоты авиалайнеров управляют полетом, можно лишь весьма условно. И оставлять или нет живых пилотов — уже не вопрос технической реализации, но взаимоотношения с пассажирами. В частности, того, насколько авиакомпании ценят жизни своих клиентов.

В действительности вопрос состоит в том, как нам адаптировать наши представления об этичном к реальности, когда все большее число жизненно важных вопросов будут решать системы на ИИ. То есть в конечном итоге как нам в этой новой реальности не утратить собственную человечность.
Аналитика на тему