DARPA запускает двухлетний конкурс на создание инструментов искусственного интеллекта для устранения уязвимостей

BLACK HAT США – Лас–Вегас — среда, 9 августа – Агентство перспективных оборонных исследовательских проектов (DARPA) выступит спонсором двухлетнего конкурса на создание инструментов кибербезопасности нового поколения для улучшения защиты программного обеспечения. DARPA – агентство по исследованиям и разработкам Министерства обороны США (DoD), отвечающее за разработку новейших технологий для использования военными.

Названный AI Cyber Challenge (AIxCC), целью которого является создание систем, управляемых искусственным интеллектом, для решения проблем кибербезопасности и обеспечения более безопасного программного обеспечения. Выступая с основным докладом на конференции Black Hat, руководитель программы AIxCC Перри Адамс объявил об открытии конкурса. Она сказала, что, поскольку программное обеспечение облегчает современную жизнь и повышает производительность, оно также создает расширяющийся сервис атак для злоумышленников.

“Последние технологические достижения предлагают многообещающие новые способы обеспечения того, чтобы мы могли поддерживать оборону на шаг впереди”, – сказала она. “Достижения искусственного интеллекта при ответственном использовании обладают значительным потенциалом для защиты нашего кода”.

Однако Адамс сказал, что обещаний о том, что ИИ может сделать, недостаточно, и необходима “принудительная функция”, чтобы собрать вместе ведущих деятелей в области ИИ и кибербезопасности, чтобы показать, как ИИ можно использовать во благо.

Решение проблемы безопасности программного обеспечения с помощью искусственного интеллекта за 2 года?

Конкурс, который, по словам Адамса, завершится в 2025 году на DEF CON, бросает вызов конкурентам в разработке систем искусственного интеллекта для быстрого поиска и устранения уязвимостей в критическом коде.

“Это возможность использовать технологию, чтобы добиться реальных изменений в создании чего-то, что может привести к кардинальным структурным изменениям”, – сказала она. “Мы надеемся, что с помощью этого нового вызова DARPA мы стимулируем такие невероятные инновации”.

AIxCC предложит для участия два направления: финансируемое направление и открытое направление. Участники финансируемого направления будут отобраны из предложений, представленных на конкурс инновационных исследований для малого бизнеса.

В конкурсе призы включают 20 миллионов долларов командам с лучшими системами, в то время как семи малым предприятиям также будет предложено до 1 миллиона долларов. Команды с лучшими вариантами будут оценены следующей весной, полуфиналисты будут объявлены следующим летом на DEF CON 2024, а победители будут объявлены в следующем году на DEF CON 2025.

“Пять лучших полуфиналистов выиграют по 2 миллиона долларов каждый и получат возможность потратить год на развитие своей технологии”, – сказал Адамс. У полуфиналистов будет год на создание системы, способной быстро защитить критически важную инфраструктуру от атак.

AIxCC поддерживается Google, Anthropic, Microsoft и OpenAI, в то время как Open Source Security Foundation будет выступать в качестве консультанта по проведению конкурса.

“У нас есть конкурс, который формирует инновации вокруг реальных проблем. Мы хотим создавать системы, которые автоматически защищают от атак любое программное обеспечение, от использования в коммерческой промышленности до жизненно важных медицинских устройств”, – сказал Адамс.

Где искусственный интеллект отвечает всем требованиям

Майкл Селлитто, временный руководитель отдела политики и воздействия на общество в Anthropic, говорит, что технологии развиваются быстро, и разработчики программного обеспечения уже используют искусственный интеллект для написания значительных частей кода.

“Это может помочь интерпретировать или предложить альтернативы коду, с которым они работают, и поэтому мы не так уж далеки от того, чтобы технология, знаете ли, была хороша в поиске и устранении уязвимостей и требовала целенаправленных усилий”, – говорит он. “Этот вызов может довольно быстро ускорить эти усилия, поскольку два года назад никто вообще не использовал искусственный интеллект для написания кода, а сегодня это стало чем-то вроде ежедневного рабочего процесса для значительной части программистов”.

Адамс говорит, что цель – разработать очень удобные системы, которые могут оказать существенное влияние на защиту программного обеспечения, и мы хотим, чтобы этот успех послужил примером того, как искусственный интеллект может быть использован для решения ключевой проблемы в обществе. “Наша цель – разработать передовые технологии, которые могут масштабно защищать программное обеспечение; инструменты, которые могут принимать программное обеспечение и говорить: “Эй, я нашел все эти ошибки, и вот исправления”, которые удалят уязвимый код и заменят его безопасным кодом”, – сказала она.