Проблемы управления ИИ и подход Великобритании проанализированы в правительственном отчете

Промежуточный отчет, опубликованный сегодня Комитетом по науке, инновациям и технологиям, выделил двенадцать основных проблем управления ИИ, которые необходимо решить, и выразил обеспокоенность по поводу подхода, специфичного для Великобритании.

20 октября 2022 года Комитет начал расследование, чтобы изучить влияние ИИ на различные сферы общества и экономики, следует ли регулировать ИИ и его различные виды использования и как именно, а также предложения правительства Великобритании по управлению ИИ.

Проблемы управления ИИ

В отчете определен ряд проблем управления ИИ для политиков, многие из которых актуальны для индустрии медицинских технологий. Это:

Проблема предвзятости: ИИ может вводить или увековечивать предубеждения, которые общество считает неприемлемыми.
Проблема конфиденциальности: ИИ может позволить идентифицировать отдельных лиц и использовать личную информацию о них способами, выходящими за рамки того, чего хочет общественность.
Проблема искажения информации: ИИ может позволить создавать материалы, которые намеренно искажают чье-либо поведение, мнения или характер.
Проблема доступа к данным: самому мощному ИИ нужны очень большие наборы данных, которыми располагает небольшое количество организаций.
Проблема доступа к вычислениям: разработка мощного ИИ требует значительных вычислительных мощностей, доступ к которым ограничен несколькими организациями.
Проблема с черным ящиком: некоторые модели и инструменты ИИ не могут объяснить, почему они дают тот или иной результат, что является вызовом требованиям прозрачности.
Проблема с открытым исходным кодом: требование открытого доступа к коду может способствовать прозрачности и инновациям; предоставление ему права собственности может сконцентрировать рыночную власть, но позволит более надежно регулировать ущерб.
Проблема интеллектуальной собственности и авторского права: некоторые модели и инструменты ИИ используют контент других людей: политика должна устанавливать права авторов этого контента, и эти права должны соблюдаться.
Проблема ответственности: Если модели и инструменты ИИ используются третьими сторонами для причинения вреда, политика должна устанавливать, несут ли разработчики или поставщики технологии какую-либо ответственность за причиненный вред.
Проблема занятости: ИИ нарушит работу, которую выполняют люди и которую можно выполнить. Политики должны предвидеть сбои и управлять ими.
вызовмеждународной координации : ИИ – это глобальная технология, и разработка систем управления для регулирования ее использования должна быть международным мероприятием.
Экзистенциальный вызов: некоторые люди считают, что ИИ представляет собой серьезную угрозу для человеческой жизни. Если это возможно, управление должно обеспечивать защиту национальной безопасности.

Председатель комитета RT Достопочтенный Грег Кларк, член парламента, сказал: “Искусственный интеллект уже меняет наш образ жизни и, похоже, его влияние на наше общество и экономику будет стремительно расти.

“ИИ полон возможностей, но также содержит множество важных рисков для давно установленных и лелеемых прав – от личной неприкосновенности до национальной безопасности, – от которых люди ожидают, что политики будут принимать меры предосторожности.

“В нашем промежуточном отчете определены двенадцать проблем, которые должны быть решены политиками, если мы хотим обеспечить общественное доверие к ИИ”.

Подход, специфичный для Великобритании, и связанные с ним риски

В марте этого года правительство Великобритании изложило свой предлагаемый “инновационный подход к регулированию ИИ” в форме белой книги, и хотя оно не намерено немедленно вводить регулирование, касающееся ИИ, оно заявило, что ожидает необходимости законодательного введения “установленной законом обязанности для наших регулирующих органов, требующей от них должного учета принципов” управления ИИ.

В сегодняшнем отчете Комитет заявляет, что “одно это обязательство – в дополнение к любым дальнейшим требованиям, которые могут возникнуть, – предполагает, что на новой сессии парламента должен быть четко сфокусирован законопроект об ИИ”.

Комитет добавляет в отчете: “Мы считаем, что это помогло бы, а не помешало бы амбициям премьер-министра позиционировать Великобританию как лидера в области управления ИИ.

“Мы видим опасность того, что, если Великобритания не введет никаких новых нормативных актов в течение трех лет, благие намерения правительства могут быть оставлены позади другим законодательством– таким как Закон ЕС об ИИ, который может стать стандартом де-факто и его будет трудно заменить”.

Кларк добавил: “Глубина технических знаний Великобритании и репутация надежного регулирования сослужат нам хорошую службу, и наш комитет решительно приветствует саммит по безопасности ИИ, который состоится в Блетчли-парке в ноябре.

“Однако, если амбиции правительства должны быть реализованы и его подход заключается в том, чтобы выйти за рамки переговоров, вполне возможно, что ему потребуется более срочное принятие законодательных полномочий, которые, по его словам, будут необходимы.

“Мы с интересом изучим реакцию правительства на наш промежуточный отчет и консультации с “белой книгой ИИ” и опубликуем окончательный набор политических рекомендаций в надлежащее время”.