ИИ, которому можно доверять — не за горами

AlexNet представляла собой нейронную сеть глубокого обучения и стала первой моделью, которой удалось показать в соревновании точность более 75%. Возможно, более впечатляющим является то, что она вдвое снизила существовавший на то время уровень ошибок при визуальном распознавании ImageNet — до 15,3%. Она также впервые показала, что глубокое обучение обладает значительным потенциалом для применения в реальном мире. Это, среди прочего, открыло путь к созданию систем визуального распознавания, используемых в различных отраслях промышленности: от сельского хозяйства до промышленного производства.

Этот прорыв в области глубокого обучения значительно ускорил внедрение ИИ. Но помимо несомненной гениальности этих и других первых специалистов по глубокому обучению, развитие ИИ подогревалось стечением нескольких технологических тенденций. Интернет, мобильные телефоны и социальные сети привели к взрывному росту объемов данных, которые являются сырьем для создания ИИ моделей. Мощь вычислительных машин размеренно, как метроном, продолжала расти, повинуясь закону Мура и удваивая производительность примерно каждые 18 месяцев, что позволило обрабатывать огромные объемы данных. Облако обеспечило свободный доступ к данным из любого места и снизило стоимость масштабных вычислений. Развитие программного обеспечения, в основном с открытым исходным кодом, привело к расцвету библиотек кода ИИ, доступных каждому.

Все это привело к экспоненциальному росту внедрения ИИ и создало в этой сфере атмосферу «золотой лихорадки». Исследование, проведенное консалтинговой компанией PwC, показало, что мировой ВВП может благодаря технологиям ИИ с 2017 по 2030 год увеличится на 14% благодаря ИИ, что эквивалентно дополнительным 15,7 триллионам долларов. Таким образом, эта сфера является самой крупной областью роста в в современной экономике. По данным Statista, объем финансирования стартапов ИИ в мире растет в геометрической прогрессии: с 670 миллионов долларов в 2011 году до 36 миллиардов долларов в 2020 году. По данным Tortoise Intelligence, этот показатель увеличился более чем в два раза и составил в 2021 году 77 млрд долларов. Только за последний год в новостях и социальных сетях было более 50 миллионов онлайн-упоминаний об ИИ.

Все это свидетельствует об активном развитии и внедрении ИИ. Уже присутствуя во многих потребительских приложениях, ИИ теперь получает широкое распространение на предприятиях. По данным Gartner, ожидается, что к 2024 году 75% предприятий перейдут от экспериментального к практическому применению ИИ.

Однако поспешное внедрение привело к некоторым заметным ошибкам. Системы ИИ, по сути, представляют собой технологии распознавания образов или закономерностей, которые содержатся в уже имеющихся данных. Если наборы данных, на которых обучается ИИ, являются необъективными или неполными, то и результаты, которые будут выдавать алгоритмы будут такими же.

Эти проблемы вызвали оправданные опасения и привели к возникновению этики разработки ИИ. Специалисты в этой области стараются исключить или смягчить предвзятость в наборах данных. Кроме того, они стараются сделать результаты работы ИИ прозрачными и объяснимыми, то есть показать, как подобные системы приходят к тем или иным выводам и решениям. 

Цель исследователей в области этики ИИ заключается в том, чтобы повысить доверие к результатам работы подобных систем. Как отмечает Forrester Research, это направление деятельности крайне важно для бизнеса, поскольку он не может позволить себе игнорировать спорные решения, которые могут принимать ИИ модели.

Создание ответственного ИИ — непростая задача, но она жизненно важна для будущего всей индустрии. Постоянно появляются новые сферы приложения ИИ, где нарушения этики могут привести к серьезным проблемам. Например, определение того, какие сотрудники компании достойны повышения, а какие — нет.

С этого фронта уже приходят хорошие новости: уже появились методы, позволяющие смягчать предвзятость алгоритмов и решать другие проблемы ИИ на разных этапах его разработки и внедрения, включая первоначальное проектирование, внедрение и операционная работа на производстве. Эти возможности ведут к появлению новой области алгоритмического аудита и гарантий, которые будут способствовать укреплению доверия к ИИ.

Помимо предвзятости, существуют и другие проблемы при создании надежного ИИ. Кроме прозрачности и объяснимости к ним относятся воспроизводимость и точность результатов, обеспечение конфиденциальности и защиты данных, а также устойчивость к действиям злонамеренных лиц. Цель работ в этой сфере — обеспечить стандарты, практические кодексы и правила, гарантирующие пользователям безопасность и отсутствие юридических последствий при использовании алгоритмических систем.

По мнению Бали Балакришны, старшего вице-президента Infosys по ИИ и автоматизации, существует четыре основных направления подобной работы.

Разработка: Аудит должен учитывать процесс разработки и документирования алгоритмической системы.

Оценка: Аудит должен оценить поведение и возможности алгоритмической системы.

Смягчение последствий: Аудит должен будет рекомендовать действия по оптимизации бизнес-процессов, чтобы устранить особенности алгоритмических систем, влекущие за собой непомерно высокие риски.

Предоставление гарантий: В конечном итоге аудит должен предоставить официальное заявление о том, что алгоритмическая система соответствует определенному набору стандартов, кодексов или правил.

Бали Балакришна уверен, что еще через 10 лет аудит алгоритмов может преодолеть многие проблемы, которые накопились в сфере ИИ на данный момент.