Эксперты Deloitte в ежегодном отчете об использовании искусственного интеллекта (ИИ) на предприятиях проанализировали динамику внедрения ИИ в деятельность компаний, выделили связанные с этим риски и дали рекомендации по их преодолению.
Аналитики Фонда Росконгресс выделили основные тезисы данного исследования, сопроводив каждый из них подходящим по теме фрагментом видеотрансляций панельных дискуссий, состоявшихся в рамках деловых программ ключевых мероприятий, проведенных Фондом.
В настоящее время наступила эра повсеместного использования искусственного интеллекта.
В Deloitte отмечают стремительное развитие технологий искусственного интеллекта во всех отраслях. В 2020 году наблюдается значительное увеличение инвестиций в сферу ИИ. Использование искусственного интеллекта влечет за собой ряд преимуществ для организации: повышение эффективности бизнес-процессов, более эффективное принятие решений, повышение производительности труда, улучшение продуктов и услуг.
Эксперты Deloitte провели опрос 2737 руководителей ИТ- и бизнес-подразделений из девяти стран в период с октября по декабрь 2019 года. Все участвующие компании внедрили технологии искусственного интеллекта и поделились своим опытом, преимуществами и недостатками использования ИИ в работе.
Признание важности использования технологий искусственного интеллекта со стороны компаний за год выросло на 10%. При этом существует ряд вопросов, вызывающих обеспокоенность темпами внедрения ИИ. 56% опрошенных организаций заявляют, что они планируют замедлить или уже замедляют внедрение искусственного интеллекта из-за возникающих рисков.
Видео: roscongress.org/sessions/rh-2020-natsionalnye-strategii-razvitiya-iskusstvennogo-intellekta-v-rossii-i-v-mire/search/#00:08:10.783
В последнее время большое внимание уделяется рискам и негативным последствиям использования искусственного интеллекта.
Активные дискуссии ведутся по вопросам развития или упразднения рабочих мест, предвзятости и объективности ИИ при принятии решений.
Ключевыми факторами, вызывающими обеспокоенность темпами внедрения искусственного интеллекта, являются доверительность в процессе принятия решений ИИ, вопросы этики и использования данных, а также неопределенность на рынке. Доверительность в данном вопросе означает признание компанией надежности использования инструмента искусственного интеллекта, безопасность системы, а также способность понять, обосновать или объяснить процесс принятия решений ИИ. Этическая составляющая рассматривает, является ли использование искусственного интеллекта полезным для общества, а также вопросы конфиденциальности данных, справедливости, предвзятости и потенциальной потери рабочих мест. Неопределенность на рынке — это независящие от компаний факторы, такие как изменение нормативно-правовой базы, мнение общественности и сотрудников. Эти факторы не связаны с качеством ИИ, но они влияют на возможности его использования. На изображении ниже отражена степень важности данных факторов (по мнению участников опроса).
85% опрошенных заявляют о важности рисков, связанных с доверительностью искусственному интеллекту. Данные опасения наиболее тесно связаны с качеством продуктов и услуг, которые предоставляет компания, и таким образом оказывают влияние на репутацию компании.
Степень обеспокоенности компаний вопросами качества использования ИИ зависит от развитости самой компании. Крупные, развитые, успешные компании менее обеспокоены рисками от использования искусственного интеллекта, так как обладают большими ресурсами для повышения его качества.
57% процентов респондентов отметили важность этической составляющей использования ИИ. Особенностью этической проблемы использования искусственного интеллекта является то, что данные, используемые для принятия решений, могут быть неполными и предвзятыми.
55% респондентов указали на важность факторов неопределенности на рынке и вытекающие отсюда вопросы целесообразности инвестиций. Данная категория включает в себя широкий круг вопросов: от общественного мнения до неоднозначной нормативной базы. Обеспокоенность вызывают новые правила и нормы, касающиеся защиты данных, распознавания лиц и прозрачности решений. Компании, применяющие искусственный интеллект, обеспокоены реакцией общественности на ошибки ИИ, а также отношением сотрудников к использованию ИИ.
Видео: roscongress.org/sessions/media-v-epokhu-iskusstvennogo-intellekta-instruktsiya-po-vyzhivaniyu/search/#00:04:33.239
Объем рисков во многом тормозит активное использование искусственного интеллекта.
Только четверо из десяти респондентов заявили о полной готовности использовать ИИ в своем бизнесе. Чтобы повысить доверие к искусственному интеллекту, организациям следует обеспечить прозрачность, надежность и безопасность своих инструментов и решений и наличие системы подотчетности.
Для обеспечения понятности и прозрачности процесса принятия решений ИИ необходимо формирование так называемого «объяснимого искусственного интеллекта» — это развивающаяся область компьютерных наук, формирующая модели ИИ, которые лучше объясняют себя. В настоящее время «объяснимый искусственный интеллект» может предоставить общую информацию о том, как программа принимает решение, раскрывает сильные и слабые стороны программы, критерии принятия решения. Последние рекомендации Министерства торговли США предлагают четыре принципа оценки объяснимости ИИ: предоставление доказательств и обоснований по каждому результату; предоставление понятных для пользователей объяснений; корректность системных объяснений; работа системы только в тех условиях, для которых она была разработана.
Успешность внедрения технологий искусственного интеллекта во многом зависит от ответственного управления данными, строгих стандартов менеджмента и обеспечения плюрализма мнений относительно моделей ИИ, без чего не могут появиться новые улучшенные идеи.
Управление неопределенностями на рынке требует иных подходов. Изменение нормативных требований и колебания общественного мнения и мнения сотрудников всегда являются характерной чертой новых и революционных технологических преобразований. Хотя компании не всегда могут полностью их контролировать, руководители могут предпринять шаги для более успешного управления ими.
Крайне важен качественный механизм управления и коммуникаций. Общественное мнение и мнение сотрудников часто не имеют ничего общего с тем, насколько хорошо работает ИИ. В ближайшие годы искусственный интеллект, вероятно, изменит многие организационные роли. Примером является компания Humana, которая заменила часть операторов колл-центра на ИИ, освобождая перегруженных сотрудников от необходимости предоставления базовой информации. Необходима качественная работа с командами по коммуникациям и маркетингу, чтобы убедиться, что и сотрудники, и клиенты адекватно понимают и видят ценность в использовании ИИ. Кроме того, важно предвидеть и оперативно адаптировать бизнес-процессы к появляющимся нормативно-правовым нововведениям.
Видео: roscongress.org/sessions/rh-2020-upravlenie-riskami-ili-krizisom-pochemu-preventivnye-mery-luchshe-vosstanovleniya/search/#00:04:39.039
Искусственный интеллект обладает огромным преобразующим потенциалом.
Более 90% опрошенных руководителей технологических компаний согласны с тем, что ИИ будет лежать в основе следующей технологической революции и что он возьмет на себя рутинные задачи, позволяя людям иметь больше свободы для творческой реализации. Потенциальная ценность искусственного интеллекта для нашего мира может быть слишком высока, чтобы руководители бизнеса уклонились от нее из-за чрезмерных предостережений. Использование ИИ в процессах производства товаров и оказания услуг уже сейчас обеспечивает компании конкурентное преимущество по сравнению с другими.
Видео: roscongress.org/sessions/rh-2020-natsionalnye-strategii-razvitiya-iskusstvennogo-intellekta-v-rossii-i-v-mire/search/#00:15:38.903
Также предлагаем вам ознакомиться с другими материалами, размещенными в специальных разделах Информационно-аналитической системы Росконгресс Искусственный интеллект, Цифровизация, IT-индустрия, посвященных использованию искусственного интеллекта в современном мире.
Фонд Росконгресс – социально ориентированный нефинансовый институт развития, крупнейший организатор общероссийских, международных, конгрессных, выставочных, деловых, общественных, молодежных, спортивных мероприятий и событий в области культуры, создан в соответствии с решением Президента Российской Федерации.
Фонд учрежден в 2007 году с целью содействия развитию экономического потенциала, продвижения национальных интересов и укрепления имиджа России. Фонд всесторонне изучает, анализирует, формирует и освещает вопросы российской и глобальной экономической повестки. Обеспечивает администрирование и содействует продвижению бизнес-проектов и привлечению инвестиций, способствует развитию социального предпринимательства и благотворительных проектов.
Мероприятия Фонда собирают участников из 208 стран и территорий, более 15 тысяч представителей СМИ ежегодно работают на площадках Росконгресса, в аналитическую и экспертную работу вовлечены более 5000 экспертов в России и за рубежом.
Фонд взаимодействует со структурами ООН и другими международными организациями. Развивает многоформатное сотрудничество со 197 внешнеэкономическими партнерами, объединениями промышленников и предпринимателей, финансовыми, торговыми и бизнес-ассоциациями в 83 странах мира, с 286 российскими общественными организациями, федеральными и региональными органами исполнительной и законодательной власти Российской Федерации.
Официальные телеграм-каналы Фонда Росконгресс: на русском языке – t.me/Roscongress, на английском языке – t.me/RoscongressDirect, на испанском языке – t.me/RoscongressEsp, на арабском языке – t.me/RosCongressArabic. Официальный сайт и Информационно-аналитическая система Фонда Росконгресс: roscongress.org.