• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Новости

Искусственный интеллект – повестка ОЭСР

Искусственный интеллект (ИИ) трансформирует каждый аспект нашей жизни. Использование ИИ может помочь решить глобальные проблемы, такие как изменение климата и доступ к качественной медицинской помощи, однако, не смотря на эти преимущества, возникают реальные проблемы как для правительств, так и для граждан. ОЭСР формирует свой подход для ответа на вызовы использования искусственного интеллекта при экспертной поддержке стран организации и партнеров.

24-25 сентября 2018 г. начала свою работу Экспертная группа ОЭСР по искусственному интеллекту (AIGO) под председательством заместителя министра науки и ИКТ Южной Кореи Вонки Мина (Wonki Min).

Среди участников:

·        Microsoft —директор Technology Policy Group,

·        IBM — Government and Regulatory Affairs Executive,

·        Google — Public Policy Manager,

·        Министерство искусственного интеллекта ОАЭ — советник министра

·        IEEE — управляющий директор  IEEE Standards Association,

·        представители Harvard, MIT и др.

Россию в этой группе представлял зав. отделом исследований цифровой экономики ИСИЭЗ НИУ ВШЭ Вишневский Константин. Первое заседание группы, прошедшее в штаб-квартире ОЭСР в Париже, было посвящено обсуждению базовых принципов, лежащих в основе искусственного интеллекта.

Все принципы были разделены на 3 группы:

Общие принципы — по сути, это пять заповедей искусственного интеллекта, лежащих в основе любой деятельности, связанной с ИИ:

1.     ИИ должен обеспечивать вклад в инклюзивный экономический рост и повышение благосостояния населения.

2.     Развитие ИИ не должно противоречить человеческим ценностями приводить к дискриминации.

3.     Необходимо обеспечить высокую степень прозрачности, повышая уровень осведомленности населения о потенциальных выгодах и угрозах развития ИИ.

4.     Результаты работы ИИ должны быть интерпретируемы и объяснимы.

5.     Развитие ИИ должно строиться на принципах устойчивости и ответственностиво избежание наступления негативных последствий.

 Принципы разработки моделей, алгоритмов ИИ и продуктов на их основе — рамочная основа для создания решений на базе ИИ:

1.      Этичность — любые продукты и услуги, связанные с ИИ, должны не нарушать этические нормы современного мира, например, перед беспилотными автомобилями не должен ставиться вопрос, кто понесет ущерб при неотвратимости ДТП.

2.      Возможность проведения аудита — должна быть возможность проверки моделей, алгоритмов и принимаемых решений, в т.ч. в случае, когда с помощью ИИ может быть нанесен вред.

3.      Управление рисками — должна быть создана система постоянного риск-менеджмента для предупреждения возможных негативных последствий применения ИИ.

4.      Предупреждение смещения принимаемых решений — при обучении ИИ на ограниченном наборе данных может быть допущено смещение, приводящее к различного рода дискриминации и создании преференций для одних акторов в ущерб другим. В этой связи необходима систематическая оценка принимаемых ИИ решений, исходных алгоритмов и данных для предупреждения такого смещения.    

Принципы политики в области ИИ:

1.      Диалог – необходимо обеспечить участие всех слоев общества в обсуждении вопросов, связанных с ИИ.

2.      Инновационность – должны быть созданы регуляторные песочницы для ускоренного развития ИИ и интенсификации исследований и разработок, обладающих высоким социальным эффектом.

3.      Доступность данных – необходимо обеспечить открытость и прозрачность данных для работы ИИ во избежание возможного смещения принимаемых ИИ решений, при этом должны быть соблюдены принципы приватности и безопасности.

4.      Международная кооперация – для ускорения развития ИИ должно быть обеспечено международное сотрудничество, включая обмен лучшими практиками и кейсами (use cases).

5.      Измерение – необходимо разработать инструментарий статистического наблюдения за развитием ИИ.

Заседание получилось достаточно живым — дискуссии не прекращались даже на обедах и кофе-брейках. По итогам мероприятия было принято решение о доработке перечня и описания рассмотренных принципов в онлайн-режиме для последующего обсуждения и издания согласованной версии в конце 2018 г.