США, Великобритания и 16 других стран Согласовали Руководящие принципы обеспечения безопасности искусственного интеллекта

Восемнадцать стран подписали соглашение о безопасности искусственного интеллекта, основанное на принципе, что он должен быть безопасным по замыслу.

Руководящие принципы разработки защищенных систем искусственного интеллекта, разработанные Национальным центром кибербезопасности Великобритании совместно с Американским агентством по кибербезопасности и инфраструктурной безопасности, рекламируются как первое глобальное соглашение такого рода.

Они предназначены в основном для поставщиков систем искусственного интеллекта, которые используют модели, размещенные в организации, или которые используют внешние интерфейсы прикладного программирования. Цель состоит в том, чтобы помочь разработчикам убедиться, что кибербезопасность является важным предварительным условием безопасности системы искусственного интеллекта и неотъемлемой частью процесса разработки с самого начала и на всем протяжении.

“Руководящие принципы, совместно выпущенные сегодня CISA, NCSC и другими нашими международными партнерами, обеспечивают разумный путь к проектированию, разработке, развертыванию и эксплуатации искусственного интеллекта, в основе которого лежит кибербезопасность”, – сказал министр внутренней безопасности Алехандро Майоркас.

“Интегрируя принципы ‘безопасности по замыслу’, эти руководящие принципы представляют собой историческое соглашение, в которое разработчики должны инвестировать, защищая клиентов на каждом этапе проектирования и разработки системы”, – добавил он.

Они охватывают проектирование систем безопасности, включая понимание рисков и моделирование угроз, а также компромиссы, которые необходимо учитывать при проектировании систем и моделей, а также руководящие принципы разработки, включая безопасность цепочки поставок, документацию и управление активами и техническим долгом.ПОДРОБНЕЕ ДЛЯ ВАС

Безопасное развертывание охватывает защиту инфраструктуры и моделей от компрометации, угроз или потерь, разработку процессов управления инцидентами и ответственный выпуск. Безопасная эксплуатация и техническое обслуживание охватывают ведение журнала и мониторинг, управление обновлениями и обмен информацией.

Эти руководящие принципы в целом основаны на руководстве NCSC по безопасной разработке и развертыванию, платформе разработки безопасного программного обеспечения NIST и принципах обеспечения безопасности по дизайну, опубликованных CISA, NCSC и другими международными киберагентствами.

Они были одобрены Австралией, Канадой, Чили, Чехией, Эстонией, Францией, Германией, Израилем, Италией, Японией, Новой Зеландией, Нигерией, Норвегией, Польшей, Южной Кореей и Сингапуром, а также Великобританией и США.

Великобритания надеется извлечь выгоду из недавнего саммита по безопасности искусственного интеллекта, состоявшегося в Блетчли-парке в конце прошлого месяца. И, как и обсуждения на том мероприятии, в новых руководящих принципах много общих принципов, но мало фактических деталей.

Однако работа продолжается: в прошлом месяце президент Байден издал исполнительный приказ, предписывающий Министерству внутренней безопасности содействовать принятию стандартов безопасности ИИ во всем мире, в то время как ранее в этом месяце CISA опубликовала свою дорожную карту по искусственному интеллекту, направленную на обеспечение защиты систем ИИ от киберугроз.

“Публикация Руководящих принципов по разработке безопасных систем искусственного интеллекта знаменует собой ключевую веху в нашем коллективном обязательстве — со стороны правительств всего мира — обеспечить разработку и внедрение безопасных по замыслу возможностей искусственного интеллекта”, – сказала директор CISA Джен Истерли.

“Внутреннее и международное единство в продвижении принципов безопасности с помощью дизайна и создании устойчивой основы для безопасного развития систем искусственного интеллекта во всем мире не могло быть достигнуто в более важный момент нашей общей технологической революции”.