Генеративный ИИ: новейшее оружие в арсенале киберпреступников

Мы прошли только половину года, и 2023 год быстро становится известен как год генеративного ИИ. Удобный и интуитивно понятный характер таких инструментов, как ChatGPT и Google Bard, в одночасье превратил генеративный ИИ в успешный инструмент для решения любых задач — от копирайтинга и разработки кода до обучения и моделирования реального мира, предоставления персонального помощника и поддержки клиентов, а также множества других приложений. Неудивительно, что ChatGPT теперь является рекордсменом по самому быстрорастущему потребительскому приложению в истории.

Но у этой широкой доступности есть и темная сторона. Потому что, как и все остальные, киберпреступники также пользуются преимуществами этой технологии.

Как генеративный ИИ превращается в оружие для киберпреступности

Электронная почта всегда была выгодным направлением атак для киберпреступников, хотя со временем их тактика изменилась по мере развития технологий кибербезопасности. Когда антивирусные решения заблокировали их спам-атаки, они переключились на фишинговые электронные письма, содержащие вредоносные ссылки. И когда защищенные почтовые шлюзы заблокировали это, они перешли к атакам с использованием только текстовых сообщений для компрометации деловой электронной почты (BEC), которые используют социально спроектированный, кажущийся законным контент электронной почты, чтобы обманом заставить жертв совершить действие, например, оплатить счет или поделиться конфиденциальной информацией.

И теперь субъекты угроз переходят к своей следующей эволюции: генеративным атакам BEC на основе искусственного интеллекта.

Генеративный ИИ обладает потенциалом не только для увеличения объема атак, но и для их изощренности. Например, он может помочь киберпреступникам устранить опечатки и грамматические ошибки, которые так часто характерны для конечных пользователей, и помочь им идентифицировать традиционные BEC-атаки.

Атаки BEC уже опустошали бизнес — за последнее десятилетие выявленные убытки составили более 50 миллиардов долларов, — но теперь, когда инструменты генеративного ИИ еще больше снижают барьер для запуска продвинутых атак, мы стоим на пороге совершенно новой и все более опасной эры киберпреступности.

Для противодействия требуется глубокая защита

История показала нам, насколько сообразительны и легко приспосабливаются киберпреступники, когда дело доходит до уклонения от обнаружения, вот почему организации должны иметь несколько линий обороны для защиты от угрозы атак, генерируемых искусственным интеллектом.

Ваша первая линия защиты – это решение для защиты вашей электронной почты. Для проведения атак с использованием искусственного интеллекта требуются соответствующие им решения, и службы безопасности, похоже, готовы соответствующим образом адаптировать свой технологический стек. Недавнее исследование показало, что “большинство (82%) лиц, принимающих решения в области ИТ, планируют инвестировать в кибербезопасность, основанную на ИИ, в ближайшие два года, и почти половина (48%) планируют инвестировать до конца 2023 года”. Хорошей новостью является то, что рынок кибербезопасности быстро внедряет инновации, чтобы удовлетворить этот спрос.

Все больше поставщиков средств безопасности начинают внедрять ИИ в свои продукты, но, учитывая, насколько продвинутыми становятся сегодняшние BEC-атаки, наиболее эффективными технологиями будут те, которые достаточно динамичны, чтобы обнаруживать даже самые тонкие индикаторы — среди тысяч сигналов — потенциальной атаки.

Дополнительной линией защиты является человеческий глаз. Если электронное письмо кажется подозрительным, скорее всего, так оно и есть. Непрерывное обучение по вопросам безопасности является ключом к тому, чтобы сотрудники были информированы и проявляли бдительность в отношении явных признаков BEC. Конечно, обнаружение человеком становится все сложнее, поскольку атаки по электронной почте становятся все более изощренными благодаря использованию ИИ, но сотрудники всегда должны подвергать сомнению любое электронное письмо, в котором запрашивается финансовая или личная информация или содержится давление на них, требующее срочных действий. В вашей организации также должен быть четкий протокол, позволяющий сообщать и проверять подобные подозрительные электронные письма. В идеале, при любых атаках, которые не будут обнаружены человеком (а вполне вероятно, что многие так и сделают), ваша первая линия защиты — ваши технологии — будут готовы перехватить их.

Ваша последняя линия защиты должна сузить область компрометации в случае успешной атаки. Учитывая, насколько изощренными становятся BEC-атаки, обычно это вопрос времени, когда кто-то в вашей организации станет жертвой атаки. Когда дело доходит до взломанных учетных записей, внедрение таких мер, как управление паролями, многофакторная аутентификация и управление привилегиями / разрешениями, может помочь уменьшить поверхность атаки и помешать субъектам угрозы сеять дальнейший хаос, как только они окажутся внутри корпоративной сети. А для любых электронных писем, связанных с финансовыми транзакциями, такими как запросы на платежи или обновления банковских реквизитов, процесс проверки, включающий несколько этапов и нескольких человек, может помочь гарантировать, что ничего не будет выплачено субъекту угрозы, а не законному поставщику или клиенту.

Демократизация генеративного ИИ, несомненно, трансформирует наш цифровой мир. Он достиг критической точки, поскольку выходит за рамки узких кругов технических разработчиков и попадает в руки обычных потребителей, стремящихся применить такую мощную технологию в своей повседневной жизни, включая, к сожалению, тех, кто преследует злонамеренные цели. Социально спроектированные атаки, для запуска которых когда-то требовались сложные навыки, опыт и ресурсы, теперь выходят на первый план, и организациям необходимо быть готовыми к тому, что эти атаки продолжают расширяться. Те, кто сделает это сейчас, получат преимущество, когда дело дойдет до защиты от этих все более изощренных атак, генерируемых искусственным интеллектом, особенно по мере развития технологий (и киберпреступников, которые их используют) в течение следующих нескольких месяцев.

Майк Бриттон – главный специалист по информационной безопасности в Anonmal Security, ведущей поведенческой платформе защиты электронной почты на основе искусственного интеллекта.