Враждебный ИИ и дипфейки как одна из главных угроз цифровой безопасности

Microsoft и Университет Бен-Гуриона опубликовали совместное исследование реакций таких крупных компаний, как Airbus, IBM и Huawei на атаки с использованием ИИ. Выяснилось, что злоумышленники прибегают к помощи искусственного интеллекта по трём основным причинам: это скорость, охват и «успех» — с их точки зрения, конечно. Всё это легко объяснить на примере эксперимента, который ZeroFox, компания в сфере кибербезопасности, провела ещё в 2016-м году, то есть до наступления эпохи массового распространения дипфейков.

Специалисты ZeroFox создали ИИ-алгоритм SNAPR, способный без вмешательства человека генерировать до 7-ми фишинг-твитов в минуту, достигающих 800 адресатов, причём 275 человек кликали на вредоносную ссылку в твите. Для сравнения: один злоумышленник способен написать один твит в минуту, разослать его 175-ти потенциальным жертвам, и только 49 из них перейдут по подозрительной ссылке. AI на службе мошенников уже по виртуозности обмана превосходит человеческое сознание с его бессчётным количеством синапсов: скорость, охват, успех.

Несмотря на повсеместное распространение биометрии и технологий распознавания лиц, бизнес пока ещё не в полной мере оценил всю серьёзность угрозы таких атак с применением искусственного интеллекта. В ходе недавнего опроса компания Attestiv выяснила, что менее 30% респондентов инвестирует в предотвращение дипфейк-угроз. Всё усугубляется тем, что развитие искусственного интеллекта сейчас считается всеобщей задачей. Конечно, ничего фундаментально плохого в open source нет: в 95% случаев открытыми источниками воспользуются университеты, учёные, позитивно настроенные энтузиасты и так далее. Но и злоумышленникам не надо ничего похищать из «секретных» лабораторий: всё есть в открытом доступе, и враждебно настроенный ИИ при наличии необходимых знаний и навыков в этой области создаётся абсолютно бесплатно.

Эксперты считают, что вскоре стратегии мошенников изменятся соответствующим образом: тщательно спланированные, созданные вручную единичные дипфейк-кампании, которые опытный отдел цифровой безопасности всё ещё может вывести «на чистую воду», уступят место массовым «бомбардировкам», немного напоминающим DDoS-атаки. Представьте себе десятки тысяч звонков от синтетических лиц с правдоподобными голосами: одна из таких попыток «выудить рыбку» в конечном итоге достигнет цели — система примет дипфейк за реального пользователя и предоставит доступ.

По данным Juniper Research, в 2019-м году совокупные убытки от несанкционированного доступа к базам данных составили 3 триллиона долларов. Прогноз на 2024-й год — 5 триллионов, причём главным новым элементом уравнения станет ИИ: он поможет злоумышленникам максимизировать «прибыль». Но это вовсе не означает, что все исследования в области искусственного интеллекта нужно срочно сворачивать. Как верно отметили в Capgemini, всё, что изобретается ради обороны, можно со временем использовать для нападения на обороняющегося. Проще говоря, следует готовиться, а не возвращаться к счётам и надеяться на лучшее.

По оценкам аналитической фирмы Cybersecurity Ventures, в 2014-м году мировой рынок кибербезопасности оценивался всего лишь в 3 с половиной миллиарда долларов. К 2017-му он вырос до 120-ти миллиардов, на горизонте пяти лет показатель должен составить не менее 200 миллиардов. Сегодня одна только Microsoft тратит на кибербезопасность миллиард долларов ежегодно, так что всё идёт к этому. Здесь следует отметить, что к 2022-му году глобальная нехватка кадров в сфере цифровой безопасности составит около 2-х миллионов человек, и внушительная доля средств будет расходоваться на подготовку защитного ИИ, способного обороняться от атак вредоносного ИИ на службе у злоумышленников.

Строго говоря, грани между «вредоносным» и «полезным» AI уже стираются: всё зависит от того, кто и как использует искусственный интеллект. Например, стартап Cylance, оценённый рынком почти в полтора миллиарда долларов, создал собственную платформу защиты, напоминающую алгоритмы хакеров. Сходство в том, что ИИ Cylance постоянно ищет бреши в сетях клиентов — но затем, конечно, изолирует слабые звенья и направляет соответствующие уведомления отделам цифровой безопасности, а не парализует работу и не требует выкуп.

На рынке уже происходят сделки, предвосхищающие будущий ажиотаж. Например, Comcast, один из крупнейших телекомов США, выкупил у поставщика Пентагона, Northrop Grumman, фирму BluVector, которая занимается кибербезопасностью, машинным обучением и искусственным интеллектом. Благодаря этой сделке Comcast смог запустить платформу Xfinity Advanced Security, которая обеспечивает безопасность всех устройств, подключенных к его сети.

Это неоценимый прорыв для грядущей эпохи 5G и интернета вещей. В противном случае пришлось бы прибегнуть к ужесточению протоколов «общения» устройств IoT, что в свою очередь серьёзно ударило бы по самой концепции интернета вещей. Представьте себе, что умному холодильнику для заказа пары упаковок сока нужен пароль, отпечаток пальца, скан радужной оболочки глаза и свежий снимок лица — проще уже самому заказать. При этом тот же холодильник не должен быть «слабым звеном» совсем без мер защиты, через которое злоумышленник может проникнуть в домашнюю сеть.

Этот простой пример свидетельствует о том, что уже сегодня нужен баланс простоты использования и безопасности, причём вскоре как на страже спокойствия бизнеса и потребителей, так и по ту сторону баррикад будет стоять искусственный интеллект. Полностью исключать человека из этого процесса нельзя — это не просто этическое, а практическое требование. На сегодняшний день система распознавания лиц Amazon принимает до 70% дипфейков за чистую монету, аналог от Microsoft — до 80%. Без арбитра, способного направить битву кремниевых умов в нужное русло, не обойтись. В противном случае грань между истиной и подлогом сотрётся окончательно.