Сгенерированный ИИ код приводит к проблемам безопасности для большинства предприятий

Более трех четвертей разработчиков обходят установленные протоколы для использования инструментов завершения кода, несмотря на потенциальные риски, показало исследование Snyk.

• Согласно опросу, проведенному Snyk среди более чем 500 специалистов в области технологий в конце 2023 года, более половины организаций иногда или часто сталкиваются с проблемами безопасности, связанными с кодом, созданным искусственным интеллектом.
• Разработчики заинтересованы в повышении производительности с помощью помощников по программированию с искусственным интеллектом, но предприятия могут столкнуться с проблемами, если растущее использование останется бесконтрольным. Согласно данным,почти 9 из 10 разработчиков обеспокоены более широкими последствиями использования инструментов кодирования с искусственным интеллектом для безопасности.
• Согласно отчету, болеетрех четвертей разработчиков обходят установленные протоколы для использования инструментов завершения кода, несмотря на потенциальные риски. Проблема безопасности усугубляется тем, что около половины организаций не обновили методы обеспечения безопасности программного обеспечения, чтобы адаптироваться к растущему использованию инструментов кодирования на базе искусственного интеллекта.

Глубокое понимание:

Инструменты искусственного интеллекта для кодирования начинались непросто на пути к широкому внедрению на предприятиях.

Согласно только1 из 4 организаций включает ИИ как часть жизненного цикла своего программного обеспечения. В октябрьском отчете Google Cloud влияние искусственного интеллекта на разработку программного обеспечения охарактеризовано как относительно минимальное, при этом респонденты отмечают нейтральное или умеренно негативное влияние на производительность команды и доставки программного обеспечения.

Несмотря на относительно медленный процесс разработки, предприятия нацелены на ИИ для ускорения процесса разработки, даже когда возникают вопросы относительно безопасности и валидности сгенерированного кода.

Компании разных отраслей изучают потенциал технологии – от Papa Johns и General Motors до Vanguard и Bank of America.

“Мы считаем, что искусственный интеллект имеет огромные перспективы, и мы внедряем его на местах, во многих внутренних подразделениях”, – сказал Брайан Мойнихан, генеральный директор Bank of America, во время отчета о прибылях компании ранее в этом месяце. “Программисты используют его, чтобы продолжать повышать свою эффективность, и изучают его, но по-прежнему необходимо уделять особое внимание данным, использованию, моделям и подотчетности ”.

Когда дело доходит до ИИ, за интересом предприятий к конкретным вариантам использования часто следует поиск целевых решений. Основное внимание уделяется инструментам кодирования на базе искусственного интеллекта, поскольку такие поставщики, как OpenAI, SAP, Salesforce, Anthropic, Google и Meta, расширили свои возможности в ответ.

Author: admin