Эксперты Deloitte в ежегодном отчете об использовании искусственного интеллекта (ИИ) на предприятиях проанализировали динамику внедрения ИИ в деятельность компаний, выделили связанные с этим риски и дали рекомендации по их преодолению.
Аналитики Фонда Росконгресс выделили основные тезисы данного исследования, сопроводив каждый из них подходящим по теме фрагментом видеотрансляций панельных дискуссий, состоявшихся в рамках деловых программ ключевых мероприятий, проведенных Фондом.
В Deloitte отмечают стремительное развитие технологий искусственного интеллекта во всех отраслях. В 2020 году наблюдается значительное увеличение инвестиций в сферу ИИ. Использование искусственного интеллекта влечет за собой ряд преимуществ для организации: повышение эффективности бизнес-процессов, более эффективное принятие решений, повышение производительности труда, улучшение продуктов и услуг.
Эксперты Deloitte провели опрос 2737 руководителей ИТ- и бизнес-подразделений из девяти стран в период с октября по декабрь 2019 года. Все участвующие компании внедрили технологии искусственного интеллекта и поделились своим опытом, преимуществами и недостатками использования ИИ в работе.
Признание важности использования технологий искусственного интеллекта со стороны компаний за год выросло на 10%. При этом существует ряд вопросов, вызывающих обеспокоенность темпами внедрения ИИ. 56% опрошенных организаций заявляют, что они планируют замедлить или уже замедляют внедрение искусственного интеллекта из-за возникающих рисков.
Активные дискуссии ведутся по вопросам развития или упразднения рабочих мест, предвзятости и объективности ИИ при принятии решений.
Ключевыми факторами, вызывающими обеспокоенность темпами внедрения искусственного интеллекта, являются доверительность в процессе принятия решений ИИ, вопросы этики и использования данных, а также неопределенность на рынке. Доверительность в данном вопросе означает признание компанией надежности использования инструмента искусственного интеллекта, безопасность системы, а также способность понять, обосновать или объяснить процесс принятия решений ИИ. Этическая составляющая рассматривает, является ли использование искусственного интеллекта полезным для общества, а также вопросы конфиденциальности данных, справедливости, предвзятости и потенциальной потери рабочих мест. Неопределенность на рынке — это независящие от компаний факторы, такие как изменение нормативно-правовой базы, мнение общественности и сотрудников. Эти факторы не связаны с качеством ИИ, но они влияют на возможности его использования. На изображении ниже отражена степень важности данных факторов (по мнению участников опроса).
85% опрошенных заявляют о важности рисков, связанных с доверительностью искусственному интеллекту. Данные опасения наиболее тесно связаны с качеством продуктов и услуг, которые предоставляет компания, и таким образом оказывают влияние на репутацию компании.
Степень обеспокоенности компаний вопросами качества использования ИИ зависит от развитости самой компании. Крупные, развитые, успешные компании менее обеспокоены рисками от использования искусственного интеллекта, так как обладают большими ресурсами для повышения его качества.
57% процентов респондентов отметили важность этической составляющей использования ИИ. Особенностью этической проблемы использования искусственного интеллекта является то, что данные, используемые для принятия решений, могут быть неполными и предвзятыми.
55% респондентов указали на важность факторов неопределенности на рынке и вытекающие отсюда вопросы целесообразности инвестиций. Данная категория включает в себя широкий круг вопросов: от общественного мнения до неоднозначной нормативной базы. Обеспокоенность вызывают новые правила и нормы, касающиеся защиты данных, распознавания лиц и прозрачности решений. Компании, применяющие искусственный интеллект, обеспокоены реакцией общественности на ошибки ИИ, а также отношением сотрудников к использованию ИИ.
Только четверо из десяти респондентов заявили о полной готовности использовать ИИ в своем бизнесе. Чтобы повысить доверие к искусственному интеллекту, организациям следует обеспечить прозрачность, надежность и безопасность своих инструментов и решений и наличие системы подотчетности.
Для обеспечения понятности и прозрачности процесса принятия решений ИИ необходимо формирование так называемого «объяснимого искусственного интеллекта» — это развивающаяся область компьютерных наук, формирующая модели ИИ, которые лучше объясняют себя. В настоящее время «объяснимый искусственный интеллект» может предоставить общую информацию о том, как программа принимает решение, раскрывает сильные и слабые стороны программы, критерии принятия решения. Последние рекомендации Министерства торговли США предлагают четыре принципа оценки объяснимости ИИ: предоставление доказательств и обоснований по каждому результату; предоставление понятных для пользователей объяснений; корректность системных объяснений; работа системы только в тех условиях, для которых она была разработана.
Успешность внедрения технологий искусственного интеллекта во многом зависит от ответственного управления данными, строгих стандартов менеджмента и обеспечения плюрализма мнений относительно моделей ИИ, без чего не могут появиться новые улучшенные идеи.
Управление неопределенностями на рынке требует иных подходов. Изменение нормативных требований и колебания общественного мнения и мнения сотрудников всегда являются характерной чертой новых и революционных технологических преобразований. Хотя компании не всегда могут полностью их контролировать, руководители могут предпринять шаги для более успешного управления ими.
Крайне важен качественный механизм управления и коммуникаций. Общественное мнение и мнение сотрудников часто не имеют ничего общего с тем, насколько хорошо работает ИИ. В ближайшие годы искусственный интеллект, вероятно, изменит многие организационные роли. Примером является компания Humana, которая заменила часть операторов колл-центра на ИИ, освобождая перегруженных сотрудников от необходимости предоставления базовой информации. Необходима качественная работа с командами по коммуникациям и маркетингу, чтобы убедиться, что и сотрудники, и клиенты адекватно понимают и видят ценность в использовании ИИ. Кроме того, важно предвидеть и оперативно адаптировать бизнес-процессы к появляющимся нормативно-правовым нововведениям.
Более 90% опрошенных руководителей технологических компаний согласны с тем, что ИИ будет лежать в основе следующей технологической революции и что он возьмет на себя рутинные задачи, позволяя людям иметь больше свободы для творческой реализации. Потенциальная ценность искусственного интеллекта для нашего мира может быть слишком высока, чтобы руководители бизнеса уклонились от нее из-за чрезмерных предостережений. Использование ИИ в процессах производства товаров и оказания услуг уже сейчас обеспечивает компании конкурентное преимущество по сравнению с другими.
Также предлагаем вам ознакомиться с другими материалами, размещенными в специальных разделах Информационно-аналитической системы Росконгресс Искусственный интеллект, Цифровизация, IT-индустрия, посвященных использованию искусственного интеллекта в современном мире.
