Сегодня искусственный интеллект активно развивается в России, находится в фокусе внимания государственной власти и высокотехнологичных компаний, есть национальная стратегия его развития и отдельный федеральный проект. Подготовлен проект этического кодекса, обсуждается учреждение института омбудсмена или специального органа, который будет отвечать за цифровую этику. Принципы «верхнего уровня» предполагается закрепить законодательно, а отраслевые нормы будут приниматься игроками рынка в рамках саморегулирования. Об этом шла речь на сессии Дискуссионного клуба ВШЭ и Сбера — «ИИ-трансформация компаний и государства: Развитие этики ИИ в России и в мире».
Модератором дискуссии выступил первый заместитель Председателя Правления Сбербанка Александр Ведяхин. В ней приняли участие Андрей Жулин, проректор, директор Института государственного и муниципального управления НИУ ВШЭ; Елена Бунина, генеральный директор ООО «Яндекс»; Александр Кулешов, ректор Сколтех, академик РАН; Татьяна Матвеева, начальник Управления Президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи.
Искусственный интеллект во многом похож на ребёнка — как мы его сейчас научим, так он и будет себя вести в будущем. Помните историю о том, как к мудрецу привели трёхлетнего ребенка и попросили обучить его? Мудрец ответил, что уже поздно: всё сделано до него. Сейчас же у нас с вами есть уникальная возможность, когда нашему «ребёнку» по шкале человеческой жизни всего несколько дней, и он только научился отличать кошек от собак. Поэтому мы должны рассказывать ему, что такое хорошо и что такое плохо. Только тогда мы можем быть уверены, что он всё будет делать правильно. Как и в любом воспитании, здесь важен пример «родителей» – тех, кто его обучает, наставляет, отдаёт данные, пишет алгоритмы, верифицирует. А наш «ребёнок» — искусственный интеллект — должен делать всё, чтобы уважать своих «родителей» и помогать им.
Среди принципов работы искусственного интеллекта важны прозрачность, предсказуемость, ответственность, стабильность, надежность. Каждый из них не исключает и дополняет другой. Но самым главным принципом развития, наивысшей ценностью искусственного интеллекта остаётся человекоцентричность. Он должен быть нацелен на благо человека, развитие его возможностей, созидание и помощь. Не нужно ждать решений от других стран — мы должны принять российские этические нормы и представлять их как передовую российскую практику. В долгосрочной перспективе кодекс повысит шансы России для «завоевания» мировых рынков.
Порядка 30% рутинных функций федеральной власти могут быть исключены или заменены. Речь здесь идёт о достаточно простых алгоритмах, о простой работе с данными, а не об искусственном интеллекте. Мы ещё долго не подойдём к тому, чтобы использовать искусственный интеллект даже для очень простых решений в государственном управлении. Для этого нужны большие объёмы хороших данных, хорошие учётные системы, которые есть в очень небольшом количестве сфер и государственных органов
Сбер подготовил мировой обзор корпоративных принципов этики ИИ. Согласно исследованию, в настоящее время такие принципы приняты почти у 30 крупнейших разработчиков ИИ в мире. Большинство принципов этики ИИ были приняты в период с 2018 по 2019 год. В среднем компании утвердили по шесть принципов, самыми популярными из них являются справедливость и непредвзятость (приняты в 18 компаниях), безопасность и надёжность (в 18 компаниях), прозрачность (в 17), подотчётность (в 11), управляемость и контролируемость (в 11), человеко-ориентированный подход и уважение прав человека (в 10).
