Искусственный интеллектОтчеты

Новое исследование Cisco подчеркивает влияние проблем безопасности данных и конфиденциальности на внедрение GenAI

Новое исследование Cisco подчеркивает влияние проблем безопасности данных и конфиденциальности на внедрение GenAI

Сравнительное исследование Cisco по защите данных 2024 года показало, что более 1 из 4 организаций (27 процентов) запретили использование GenAI из-за рисков конфиденциальности и безопасности данных. Хотя 2023 год был годом прорыва для GenAI, исследование Cisco показывает, что у значительного процента организаций есть проблемы с доверием к GenAI.

Седьмое издание бенчмаркового исследования Cisco было составлено с использованием данных более чем 2600 специалистов в области конфиденциальности и безопасности со всего мира. Более 90 процентов респондентов считают, что GenAI нуждается в более совершенных методах управления данными и рисками.

Больше всего респондентов беспокоила угроза юридическим правам их компании и правам интеллектуальной собственности (69 процентов), а также риск раскрытия конфиденциальной информации конкурентам или общественности (68 процентов).

Организации, которые не запретили GenAI полностью, осознают риски. Шестьдесят три процента установили ограничения на то, какие данные могут быть введены, и 61 процент установили правила, по которым сотрудники могут использовать инструменты GenAI.

Клиенты также обеспокоены использованием ИИ, затрагивающим их данные. Исследование Cisco также показывает, что 91 процент организаций осознают озабоченность клиентов и признают, что им нужно делать больше, чтобы успокоить своих клиентов. Однако уровень доверия клиентов аналогичен уровню, указанному в отчете Cisco за прошлый год, что означает, что особого прогресса достигнуто не было.

“LLM (GenAI) развивают усилия по цифровому преобразованию предприятий и внедряют новые меры предосторожности в отношении конфиденциальности данных, которые необходимо учитывать на ранней стадии. Несмотря на потенциальные возможности GenAI, уже поступали жалобы на непреднамеренное раскрытие конфиденциальности данных, таких как личная конфиденциальная информация. Компании должны внедрять конфиденциальность данных специально, чтобы оптимизировать управление знаниями, добиться ожидаемой эффективности и безопасно извлекать выгоду из инноваций GenAI ”. сказал Рави Шринивасан, генеральный директор Votiro.

Важность безопасности данных и конфиденциальности проявляется в увеличении расходов организаций на конфиденциальность. За последние пять лет расходы на конфиденциальность выросли более чем вдвое. Высокий процент (95%) респондентов указали, что преимущества конфиденциальности начали приносить результаты: средняя организация получает выгоды, в 1,6 раза превышающие ее расходы.

“94% респондентов заявили, что их клиенты не стали бы покупать у них, если бы они не обеспечивали надлежащую защиту данных”, – объясняет Харви Джанг, вице-президент Cisco и главный специалист по защите конфиденциальности. Внешняя сертификация и законы могут сыграть ключевую роль в заверении клиентов в безопасности их данных, поскольку это дает веские доказательства того, что организациям можно доверять.

В недавно опубликованном отчете LinearB, лидера в области решений для управления поставками программного обеспечения, также показано, что безопасность является главной заботой, за которой следуют соответствие требованиям и качество.

По мере роста внедрения GenAI опасения резко снижаются по всем направлениям. Это означает, что организации, которые не решаются внедрять GenAI, статистически с большей вероятностью не доверяют технологии. Однако после того, как они достигают более высокой стадии внедрения, некоторые из их проблем снимаются.

В прошлом году опрос Gartner также показал аналогичные тенденции в отношении рисков GenAI. Пятьдесят семь процентов респондентов заявили, что они обеспокоены утечкой секретных данных в коде, сгенерированном искусственным интеллектом, а 58 высказали опасения по поводу некорректных или предвзятых результатов.

В то время как 93 процента руководителей ИТ-служб и служб безопасности заявили, что они вовлечены в организацию GenAI security, только 24 процента заявили, что несут эту ответственность.

В отчете также освещены некоторые инструменты, используемые организациями для устранения рисков, связанных с GenAI. К наиболее популярным инструментам относятся безопасность приложений искусственного интеллекта, ModelOps и технологии, повышающие конфиденциальность (PETs).

Еще несколько исследований показали, что, несмотря на резкий рост спроса на GenAI, организации по-прежнему с осторожностью относятся к внедрению GenAI. Надвигающаяся угроза более строгого соблюдения требований не помогает. Однако по мере того, как организации проходят этап внедрения, их уверенность должна расти.

Источник https://www.datanami.com/2024/01/26/new-cisco-study-highlights-the-impact-of-data-security-and-privacy-concerns-on-genai-adoption/

admin
Author: admin

Hi, I’m admin