Российские эксперты разрабатывают критерии доверия к искусственному интеллекту
15.07.2020
Проект: Технический комитет 164 «Искусственный интеллект» (ТК 164)
С 1 по 3 июля в Сколковском институте науки и технологий (Сколтех) при участии экспертов образованного на базе РВК Технического комитета по стандартизации ТК 164 «Искусственный интеллект» прошла международная онлайн-конференция, посвящённая проблемам устойчивости, прозрачности и надёжности Искусственного интеллекта («Trustworthy AI: Transparency. Robustness. Sustainability»). Ведущие мировые эксперты в области искусственного интеллекта (ИИ) впервые в таком формате объединились для выработки единой позиции по вопросу доверия к результатам применения технологий ИИ.
Российские эксперты в своих докладах затронули особенности и ограничения понятия «доверие» в области искусственного интеллекта (Сергей Гарбук, Председатель ТК 164), вопросы безопасности в области глубокого обучения (Павел Осиненко, Сколтех), этические аспекты применения и регулирования интеллектуальных и автономных систем (Андрей Игнатьев, Минэкономразвития России; Андрей Кулешов, МФТИ; Александр Луньков, ИФП УрО РАН; Павел Готовцев, НИЦ «Курчатовский институт»).
Отдельно обсудили вопрос доверия к медицинскими интеллектуальным системам, отклонение в работе которых может создать угрозу для здоровья и жизни людей. Председатель и эксперты подкомитета ПК01/ТК164 «Искусственный интеллект в здравоохранении» выступили с докладами об интеграции систем ИИ в региональную радиологию, использовании ИИ в медицинской визуализации, основах оценки медицинских диагностических систем (Сергей Морозов, Анна Андрейченко, Николай Павлов, Научно-практический клинический центр диагностики и телемедицины Москвы).
«Техносфера и ноосфера вышли на новый уровень своей сложности, когда сложно предсказать изменения среды вследствие нелинейности их развития. Сейчас дискуссия о степени внедрения интеллектуальных технологий в повседневную жизнь ведётся на нескольких уровнях, позволяя всё меньше представлять ИИ как систему чёрного ящика», — отметил вице-президент в области ИИ и математического моделирования Сколтеха, руководитель РГ03/ТК164 Максим Федоров.
Сколтех — базовая организация рабочей группы РГ03/ТК164 «Качество систем искусственного интеллекта» в области нормативного регулирования, охватывающей вопросы стандартизации процедур подтверждения безопасности и предсказуемости поведения систем ИИ, характеристик доверия и функциональных характеристик. Резолюция конференции будет использована при разработке нормативных документов в области этики и доверия к системам ИИ.
Накопленный опыт работы российских экспертов в этом направлении отражены в проекте национального стандарта ГОСТ Р «Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения». Стандарт вводит виды существенных характеристик систем ИИ, подтверждение значений которых установленным требованиям обеспечивает доверие к этим системам. Стандарт разрабатывается в рамках Программы национальной стандартизации и будет утвержден в 2020 году.
На международном уровне эксперты РГ03/ТК164 активно участвуют в разработке международных стандартов ISO/IEC в области предвзятости (bias), устойчивости, робастности и других характеристик систем ИИ. С их участием был разработан технический отчет ISO/IEC TR 24028:2020 «Информационные технологии. Искусственный интеллект. Обзор надежности в области искусственного интеллекта».
Нормативное регулирование критериев обеспечения доверия к системам ИИ на основе подтверждения их качества позволит применять технологии ИИ при решении ответственных задач, прежде всего, в медицинской диагностике, при поддержке принятия врачебных решений, управлении беспилотными транспортными средствами, строительной техникой и опасным промышленным оборудованием, в области обороны и безопасности.