нефинансовый институт развития
крупнейший организатор конгрессно-выставочных мероприятий
Рады вас видеть
Восстановление пароля
Введите адрес электронной почты или телефон, указанные при регистрации. Вам будет отправлена инструкция по восстановлению пароля.
Некорректный формат электронной почты или телефона
Статья
29.08.2019
В погоне за когнитивным профицитом
Минувшей весной произошло два знаковых события. Первое — крушение авиалайнера Boeing 773 MAX 8 в Эфиопии вскоре после того, как один самолет этой модели уже разбился из-за особенностей автоматической системы управления. Второе — по состоянию на конец марта 1% населения КНР, или 13,5 млн человек, оказался внесен в список «ненадежных» в рамках работы национальной системы кредита общественного доверия.

Эти два очень разных примера говорят об одном — о нарастающем использовании систем с элементами искусственного интеллекта (ИИ) при принятии этически важных решений. Как сложится судьба человека и даже вопросы жизни и смерти — во все большей степени в руках систем с элементами ИИ.

Развитие этой тенденции потребует коренной трансформации этических систем. Таков главный вызов. Нам предстоит создать общество, в котором этика человека будет изменена в результате интеграции ИИ в процесс принятия жизненно важных решений.

Иначе говоря, каждый человек должен будет получить ответ на вопрос, почему принятие жизненно важных решений искусственными разумными системами приемлемо, благотворно, желательно и в конечном итоге справедливо.

Это ужасный выбор. В каком-то смысле другого пути у нашей технологической цивилизации уже нет.



Распад этических систем

Вопрос о трансформации этики под давлением ИИ появился в повестке дня в тот самый момент, когда этические системы предыдущих волн оказались в фазе распада.

Это касается и традиционных этических систем, сформировавшихся в эпоху восхождения аграрных обществ. Система ответов о смысле жизни для человека, завершающего свой жизненный путь в 35–40 лет, не слишком подходит для человека, живущего в среднем 70–80 лет, для которого 35–40 лет — это и период психофизиологического расцвета, и время болезненной переоценки собственного пути.

Прежние ответы на вопрос «Почему я должен менять бесценные часы своей жизни на тот или иной тип коллективно одобряемого поведения?» все меньше удовлетворяют представителей самых разных слоев в самых различных обществах по всему миру.

Впрочем, устаревают не просто прежние ответы — скорость изменений такова, что деградируют прежние механизмы передачи этих ответов. Система передачи от поколения к поколению ценностей, знаний и навыков дает сбой за сбоем, поскольку слишком часто опыт обучающих теряет свою ценность раньше, чем на него возникает запрос.

Простой пример. Первый iPhone был представлен в 2007 году, за следующие 10 лет смартфоны радикально изменили модель потребления, заставив измениться целые отрасли: от такси и розничной торговли до медиа и политической борьбы. Еще через 10 лет под влиянием технологий,
в частности ИИ, в мире снова произойдут большие изменения.

Мир вошел в завершающую стадию грандиозного перехода, начавшегося условно с революции цен и проявляющегося в трех процессах: урбанизации, индустриализации и глобализации. Краткий по историческим меркам момент может породить иллюзию существования социально-экономического оптимума, в который можно и желательно вернуться.

В зависимости от идеологических предпочтений в качестве такого оптимума одни называют 1970-1980-е годы, другие — 1990-2000-е. Ошибаются те и другие. Невозможно ни задержаться в одной из точек перехода, ни тем более вернуться в нее.

Когнитивная гонка

В 2017 году ученые Стэнфордского университета (США) провели исследование. Группа из 30 добровольцев принимала решение о вложении средств в 36 проектов на Kickstarter. Они должны были угадать, какие проекты получат финансирование, а какие нет. При этом люди соревновались
со специальным алгоритмом.

Люди проиграли. Их прогноз совпал с реальностью в 52,9% случаев. Алгоритм прогнозировал с точностью 59,1%. Что самое поразительное в результатах этого эксперимента? Вовсе не победа искусственного интеллекта. А то, что когнитивный профицит человеческого мозга при «угадывании будущего» превысил случайные 50/50 всего на 2,9%.

На этих условных «трех процентах» и построена наша цивилизация. Все остальное — закон больших чисел. Огромное количество людей — и колоссальное количество попыток, гипотез и экспериментов, проб и ошибок в течение многих и многих веков. Представьте теперь себе цивилизацию, построенную не на условных трех, а на девяти процентах когнитивного профицита. Понятно, что общества, которые первыми комплементарно включат ИИ в свои системы управления, получат весомые конкурентные преимущества, смогут ускорить темпы своего развития.

Количество и скорость совершаемых трансакций, количество и скорость принимаемых решений постоянно растут. Например, упоминавшаяся китайская система кредита общественного доверия уже заблокировала «ненадежным» гражданам покупку 20,5 млн билетов на самолет и 5,7 млн билетов на поезд. Общественный транспорт, юриспруденция, медицина — во всех этих отраслях активно ведутся работы по внедрению систем на основе ИИ.

Означает ли это, что все менее умные люди попадут в зависимость от все более умных машин?

Вопрос сформулирован неточно. В действительности падение индивидуального IQ вовсе не означает, что люди становятся глупее. Дело в том, что человеческий разум имеет групповую природу. Высшая психика слишком энергоемка (мозг потребляет 20–40% всей энергии организма), и с точки зрения особи она окупается лишь в социуме.

Человек со своим когнитивным профицитом в «три процента» скорее довольно сообразителен, чем вполне разумен. В конце концов человека XV или XVIII века формально можно назвать глупее человека ХХ века, но эпохи Возрождения и Просвещения являются продуктами наших «более глупых» предшественников.

Операционально вопрос стоит совсем в другой плоскости. Мы уже живем в мире, где утверждать, что пилоты авиалайнеров управляют полетом, можно лишь весьма условно. И оставлять или нет живых пилотов — уже не вопрос технической реализации, но взаимоотношения с пассажирами. В частности, того, насколько авиакомпании ценят жизни своих клиентов.

В действительности вопрос состоит в том, как нам адаптировать наши представления об этичном к реальности, когда все большее число жизненно важных вопросов будут решать системы на ИИ. То есть в конечном итоге как нам в этой новой реальности не утратить собственную человечность.
Аналитика на тему