Искусственный интеллект – повестка ОЭСР
Искусственный интеллект (ИИ) трансформирует каждый аспект нашей жизни. Использование ИИ может помочь решить глобальные проблемы, такие как изменение климата и доступ к качественной медицинской помощи, однако, не смотря на эти преимущества, возникают реальные проблемы как для правительств, так и для граждан. ОЭСР формирует свой подход для ответа на вызовы использования искусственного интеллекта при экспертной поддержке стран организации и партнеров.
24-25 сентября 2018 г. начала свою работу Экспертная группа ОЭСР по искусственному интеллекту (AIGO) под председательством заместителя министра науки и ИКТ Южной Кореи Вонки Мина (Wonki Min).
Среди участников:
· Microsoft —директор Technology Policy Group,
· IBM — Government and Regulatory Affairs Executive,
· Google — Public Policy Manager,
· Министерство искусственного интеллекта ОАЭ — советник министра
· IEEE — управляющий директор IEEE Standards Association,
· представители Harvard, MIT и др.
Россию в этой группе представлял зав. отделом исследований цифровой экономики ИСИЭЗ НИУ ВШЭ Вишневский Константин. Первое заседание группы, прошедшее в штаб-квартире ОЭСР в Париже, было посвящено обсуждению базовых принципов, лежащих в основе искусственного интеллекта.
Все принципы были разделены на 3 группы:
Общие принципы — по сути, это пять заповедей искусственного интеллекта, лежащих в основе любой деятельности, связанной с ИИ:
1. ИИ должен обеспечивать вклад в инклюзивный экономический рост и повышение благосостояния населения.
2. Развитие ИИ не должно противоречить человеческим ценностями приводить к дискриминации.
3. Необходимо обеспечить высокую степень прозрачности, повышая уровень осведомленности населения о потенциальных выгодах и угрозах развития ИИ.
4. Результаты работы ИИ должны быть интерпретируемы и объяснимы.
5. Развитие ИИ должно строиться на принципах устойчивости и ответственностиво избежание наступления негативных последствий.
Принципы разработки моделей, алгоритмов ИИ и продуктов на их основе — рамочная основа для создания решений на базе ИИ:
1. Этичность — любые продукты и услуги, связанные с ИИ, должны не нарушать этические нормы современного мира, например, перед беспилотными автомобилями не должен ставиться вопрос, кто понесет ущерб при неотвратимости ДТП.
2. Возможность проведения аудита — должна быть возможность проверки моделей, алгоритмов и принимаемых решений, в т.ч. в случае, когда с помощью ИИ может быть нанесен вред.
3. Управление рисками — должна быть создана система постоянного риск-менеджмента для предупреждения возможных негативных последствий применения ИИ.
4. Предупреждение смещения принимаемых решений — при обучении ИИ на ограниченном наборе данных может быть допущено смещение, приводящее к различного рода дискриминации и создании преференций для одних акторов в ущерб другим. В этой связи необходима систематическая оценка принимаемых ИИ решений, исходных алгоритмов и данных для предупреждения такого смещения.
Принципы политики в области ИИ:
1. Диалог – необходимо обеспечить участие всех слоев общества в обсуждении вопросов, связанных с ИИ.
2. Инновационность – должны быть созданы регуляторные песочницы для ускоренного развития ИИ и интенсификации исследований и разработок, обладающих высоким социальным эффектом.
3. Доступность данных – необходимо обеспечить открытость и прозрачность данных для работы ИИ во избежание возможного смещения принимаемых ИИ решений, при этом должны быть соблюдены принципы приватности и безопасности.
4. Международная кооперация – для ускорения развития ИИ должно быть обеспечено международное сотрудничество, включая обмен лучшими практиками и кейсами (use cases).
5. Измерение – необходимо разработать инструментарий статистического наблюдения за развитием ИИ.
Заседание получилось достаточно живым — дискуссии не прекращались даже на обедах и кофе-брейках. По итогам мероприятия было принято решение о доработке перечня и описания рассмотренных принципов в онлайн-режиме для последующего обсуждения и издания согласованной версии в конце 2018 г.