ChatGPT может помешать индустрии кибербезопасности

С момента своего запуска в ноябре 2022 года чат-бот с искусственным интеллектом (AI) ChatGPT вызывает настоящий ажиотаж из-за удивительно человечных и точных ответов программного обеспечения.

Автоматически генерируемая система достигла рекордных 100 миллионов активных пользователей в месяц всего через два месяца после запуска. Однако, хотя его популярность продолжает расти, текущая дискуссия в индустрии кибербезопасности заключается в том, поможет ли этот тип технологии сделать Интернет более безопасным или сыграет на руку тем, кто пытается вызвать хаос.

Программное обеспечение ИИ имеет множество вариантов использования в области кибербезопасности, включая расширенный анализ данных, автоматизацию повторяющихся задач и помощь в расчете показателей риска. Однако вскоре после его дебюта было быстро установлено, что этот простой в использовании, свободно доступный чат-бот также может помочь хакерам проникнуть в программное обеспечение и разработать сложные инструменты для фишинга.

Итак, является ли ChatGPT подарком богов кибербезопасности или чумой, используемой для наказания? Чтобы найти ответ, мы должны посмотреть на плюсы, минусы и будущее. Давайте углубимся.

Каковы текущие опасности ChatGPT?

Как и любой новый технологический прогресс, всегда будут какие-то негативные последствия, и ChatGPT ничем не отличается.

В настоящее время наиболее обсуждаемая проблема, касающаяся чат-бота, связана с простотой создания очень убедительных фишинговых текстов, которые, вероятно, будут использоваться в вредоносных электронных письмах. Из-за отсутствия мер безопасности субъектам угрозы, чей родной язык может быть, например, не английский, было легко использовать механизм ChatGPT для создания красноречивого, заманчивого сообщения, написанного с почти идеальной грамматикой за считанные секунды.

И поскольку американцы потеряли 40 миллиардов долларов в 2022 году из-за этих мошенничеств, легко понять, почему преступники использовали ChatGPT, чтобы получить кусок этого прибыльного незаконного пирога.

Чат-боты на базе искусственного интеллекта также поднимают вопрос о безопасности работы. Конечно, нынешняя система не может заменить высококвалифицированного специалиста, но эта технология может значительно сократить количество журналов и отчетов, которые необходимо проверять сотруднику. Это может повлиять на то, сколько аналитиков потребуется нанять центру управления безопасностью (SOC).

Хотя программное обеспечение действительно предлагает несколько преимуществ предприятиям, занимающимся кибербезопасностью, найдется множество компаний, которые примут технологию просто из-за ее текущей популярности и попытаются привлечь с ее помощью новых клиентов. Однако использование технологии исключительно из-за ее модного статуса может привести к неправильному использованию. Компании могут не устанавливать адекватные меры безопасности, препятствуя прогрессу в создании эффективной программы безопасности.

Преимущества ChatGPT в области кибербезопасности

Как и в случае с любой новой технологией, сбои являются неизбежным компонентом, но это не обязательно должно быть плохо.

Компании, занимающиеся кибербезопасностью, могут добавить дополнительный уровень интеллекта к своим ручным усилиям по просмотру журналов аудита или проверке сетевых пакетов, чтобы отличать угрозы от ложных тревог.

Благодаря способности ChatGPT обнаруживать шаблоны и выполнять поиск по определенным параметрам, его также можно использовать для повторяющихся задач и создания отчетов. Тогда киберкомпании смогут более разумно рассчитывать показатели риска для угроз, воздействующих на организации, используя ChatGPT в качестве сверхмощного помощника по исследованиям.

Например, Orca Security, базирующаяся в Израиле компания по кибербезопасности, начала использовать превосходные аналитические возможности ChatGPT для обработки своего океана данных и помощи в оповещениях о безопасности. Рано осознав, как чат-бот может улучшить свою повседневную работу, компания также может извлечь уроки из технологии, что дает ей уникальное преимущество в настройке своих моделей, чтобы оптимизировать работу ChatGPT для своего бизнеса.

Кроме того, обработка естественного языка чат-ботом, которая позволяет ему так хорошо писать фишинговые электронные письма, означает, что он также идеально подходит для создания сложных политик безопасности. Эти четкие тексты можно было бы использовать на веб-сайтах по кибербезопасности и в учебных документах, экономя драгоценное время уважаемых членов команды.

Будущее ChatGPT

Технология искусственного интеллекта ChatGPT легко доступна для большинства стран мира. Поэтому, как и в любой другой битве, это просто гонка, чтобы увидеть, какая сторона лучше использует технологию.

Компаниям, занимающимся кибербезопасностью, необходимо будет постоянно бороться с нечестивыми пользователями, которые будут находить способы использовать ChatGPT для причинения вреда способами, которые компании, занимающиеся кибербезопасностью, еще не осознали. И все же этот факт не отпугнул инвесторов, и будущее ChatGPT выглядит очень светлым. Поскольку Microsoft инвестирует 10 миллиардов долларов в открытый ИИ, очевидно, что знания и возможности ChatGPT будут продолжать расширяться.

Для будущих версий этой технологии разработчикам программного обеспечения необходимо обратить внимание на отсутствие мер безопасности, и дьявол будет крыться в деталях.

ChatGPT, вероятно, не сможет в значительной степени решить эту проблему. У него могут быть механизмы для оценки привычек пользователей и выявления людей, которые используют очевидные подсказки вроде “напишите мне фишинговое электронное письмо, как будто я чей-то начальник”, или пытаются подтвердить личность людей.

Открытый ИИ мог бы даже сотрудничать с исследователями, обучая свои наборы данных оценивать, когда их текст использовался в атаках в других местах.

Однако все эти идеи создают множество проблем, включая растущие расходы и вопросы защиты данных.

Чтобы справиться с нынешней эпидемией фишинга, большему количеству людей необходимо образование и осведомленность для выявления этих атак. И отрасли нужны дополнительные инвестиции со стороны операторов сотовой связи и поставщиков услуг электронной почты, чтобы уменьшить количество атак, происходящих в дикой природе.

Подведение итогов

Так много продуктов и услуг будут основаны на ChatGPT, что принесет огромную пользу для защиты бизнеса, поскольку они работают над изменением мира. Также хакеры создадут множество новых инструментов, которые позволят им атаковать больше людей за меньшее время и новыми способами.

Чат-боты на базе искусственного интеллекта никуда не денутся, а у ChatGPT есть конкуренция: программное обеспечение Bard от Google и программное обеспечение Microsoft Bing хотят, чтобы создание Open AI заработало за свои деньги. Тем не менее, крайне важно, чтобы компании, занимающиеся кибербезопасностью, рассматривали ChatGPT и как наступательную, и как оборонительную стратегию, не прельщаясь возможностью просто получать больше дохода.

Тейлор Херсом – основатель и генеральный директор Eden Data.

Author: admin