Минувшей весной произошло два знаковых события. Первое — крушение авиалайнера Boeing 773 MAX 8 в Эфиопии вскоре после того, как один самолет этой модели уже разбился из-за особенностей автоматической системы управления. Второе — по состоянию на конец марта 1% населения КНР, или 13,5 млн человек, оказался внесен в список «ненадежных» в рамках работы национальной системы кредита общественного доверия.
Эти два очень разных примера говорят об одном — о нарастающем использовании систем с элементами искусственного интеллекта (ИИ) при принятии этически важных решений. Как сложится судьба человека и даже вопросы жизни и смерти — во все большей степени в руках систем с элементами ИИ.
Развитие этой тенденции потребует коренной трансформации этических систем. Таков главный вызов. Нам предстоит создать общество, в котором этика человека будет изменена в результате интеграции ИИ в процесс принятия жизненно важных решений.
Иначе говоря, каждый человек должен будет получить ответ на вопрос, почему принятие жизненно важных решений искусственными разумными системами приемлемо, благотворно, желательно и в конечном итоге справедливо.
Это ужасный выбор. В каком-то смысле другого пути у нашей технологической цивилизации уже нет.
Распад этических систем
Вопрос о трансформации этики под давлением ИИ появился в повестке дня в тот самый момент, когда этические системы предыдущих волн оказались в фазе распада.
Это касается и традиционных этических систем, сформировавшихся в эпоху восхождения аграрных обществ. Система ответов о смысле жизни для человека, завершающего свой жизненный путь в 35–40 лет, не слишком подходит для человека, живущего в среднем 70–80 лет, для которого 35–40 лет — это и период психофизиологического расцвета, и время болезненной переоценки собственного пути.
Прежние ответы на вопрос «Почему я должен менять бесценные часы своей жизни на тот или иной тип коллективно одобряемого поведения?» все меньше удовлетворяют представителей самых разных слоев в самых различных обществах по всему миру.
Впрочем, устаревают не просто прежние ответы — скорость изменений такова, что деградируют прежние механизмы передачи этих ответов. Система передачи от поколения к поколению ценностей, знаний и навыков дает сбой за сбоем, поскольку слишком часто опыт обучающих теряет свою ценность раньше, чем на него возникает запрос.
Простой пример. Первый iPhone был представлен в 2007 году, за следующие 10 лет смартфоны радикально изменили модель потребления, заставив измениться целые отрасли: от такси и розничной торговли до медиа и политической борьбы. Еще через 10 лет под влиянием технологий,
в частности ИИ, в мире снова произойдут большие изменения.
Мир вошел в завершающую стадию грандиозного перехода, начавшегося условно с революции цен и проявляющегося в трех процессах: урбанизации, индустриализации и глобализации. Краткий по историческим меркам момент может породить иллюзию существования социально-экономического оптимума, в который можно и желательно вернуться.
В зависимости от идеологических предпочтений в качестве такого оптимума одни называют 1970-1980-е годы, другие — 1990-2000-е. Ошибаются те и другие. Невозможно ни задержаться в одной из точек перехода, ни тем более вернуться в нее.
Когнитивная гонка
В 2017 году ученые Стэнфордского университета (США) провели исследование. Группа из 30 добровольцев принимала решение о вложении средств в 36 проектов на Kickstarter. Они должны были угадать, какие проекты получат финансирование, а какие нет. При этом люди соревновались
со специальным алгоритмом.
Люди проиграли. Их прогноз совпал с реальностью в 52,9% случаев. Алгоритм прогнозировал с точностью 59,1%. Что самое поразительное в результатах этого эксперимента? Вовсе не победа искусственного интеллекта. А то, что когнитивный профицит человеческого мозга при «угадывании будущего» превысил случайные 50/50 всего на 2,9%.
На этих условных «трех процентах» и построена наша цивилизация. Все остальное — закон больших чисел. Огромное количество людей — и колоссальное количество попыток, гипотез и экспериментов, проб и ошибок в течение многих и многих веков. Представьте теперь себе цивилизацию, построенную не на условных трех, а на девяти процентах когнитивного профицита. Понятно, что общества, которые первыми комплементарно включат ИИ в свои системы управления, получат весомые конкурентные преимущества, смогут ускорить темпы своего развития.
Количество и скорость совершаемых трансакций, количество и скорость принимаемых решений постоянно растут. Например, упоминавшаяся китайская система кредита общественного доверия уже заблокировала «ненадежным» гражданам покупку 20,5 млн билетов на самолет и 5,7 млн билетов на поезд. Общественный транспорт, юриспруденция, медицина — во всех этих отраслях активно ведутся работы по внедрению систем на основе ИИ.
Означает ли это, что все менее умные люди попадут в зависимость от все более умных машин?
Вопрос сформулирован неточно. В действительности падение индивидуального IQ вовсе не означает, что люди становятся глупее. Дело в том, что человеческий разум имеет групповую природу. Высшая психика слишком энергоемка (мозг потребляет 20–40% всей энергии организма), и с точки зрения особи она окупается лишь в социуме.
Человек со своим когнитивным профицитом в «три процента» скорее довольно сообразителен, чем вполне разумен. В конце концов человека XV или XVIII века формально можно назвать глупее человека ХХ века, но эпохи Возрождения и Просвещения являются продуктами наших «более глупых» предшественников.
Операционально вопрос стоит совсем в другой плоскости. Мы уже живем в мире, где утверждать, что пилоты авиалайнеров управляют полетом, можно лишь весьма условно. И оставлять или нет живых пилотов — уже не вопрос технической реализации, но взаимоотношения с пассажирами. В частности, того, насколько авиакомпании ценят жизни своих клиентов.
В действительности вопрос состоит в том, как нам адаптировать наши представления об этичном к реальности, когда все большее число жизненно важных вопросов будут решать системы на ИИ. То есть в конечном итоге как нам в этой новой реальности не утратить собственную человечность.
