В Калифорнии принят первый в США закон о безопасности передовых моделей ИИ
Что произошло: 29 сентября 2025 года губернатор Калифорнии Гэвин Ньюсом подписал законопроект SB 53, известный как «Закон о прозрачности передовых моделей искусственного интеллекта» (TFAIA). Закон вводит обязательные требования к безопасности для разработчиков наиболее мощных ИИ-систем.
Как это произошло (технический разбор): Закон обязывает компании, создающие «передовые» модели ИИ (определяемые по объему вычислительных ресурсов, затраченных на обучение), проводить всестороннее тестирование на предмет «катастрофических рисков». К таким рискам относятся возможности создания химического, биологического или ядерного оружия, а также кибератаки. Разработчики должны будут сообщать о результатах тестов в новообразованное Управление по передовым технологиям ИИ (Frontier AI Division) и внедрять надежные средства защиты, включая меры кибербезопасности для защиты моделей от кражи. Закон также устанавливает защиту для информаторов (whistleblowers).
Почему это важно: Это первый в США законодательный акт, регулирующий непосредственно безопасность разработки самых мощных ИИ-моделей. Поскольку большинство ведущих ИИ-компаний (OpenAI, Google, Meta, Anthropic) базируются в Калифорнии, закон может стать де-факто национальным стандартом. Он создает юридический прецедент, требующий от разработчиков нести ответственность за потенциальные риски их технологий.
Источники (прямые):
- https://www.gov.ca.gov/2025/09/29/governor-newsom-signs-sb-53-advancing-californias-world-leading-artificial-intelligence-industry/
- https://www.nytimes.com/2025/09/29/technology/california-ai-safety-law.html
- https://deadline.com/2025/09/california-artificial-intelligence-safety-law-sb53-1236566835/
Совет Безопасности ООН впервые провел заседание высокого уровня по угрозам ИИ
Что произошло: 25 сентября 2025 года Совет Безопасности ООН провел первое в истории заседание высокого уровня, посвященное влиянию искусственного интеллекта на международный мир и безопасность. Генеральный секретарь ООН Антониу Гутерриш призвал к созданию глобального органа по надзору за ИИ.
Как это произошло (технический разбор): В ходе дебатов обсуждались ключевые риски: использование ИИ в автономных системах вооружений (LAWS), распространение дезинформации и дипфейков для дестабилизации политической обстановки, а также угроза эскалации конфликтов из-за скорости принятия решений машинами. Гутерриш предложил создать международную структуру по аналогии с МАГАТЭ для контроля за ИИ.
Почему это важно: Это событие официально выводит проблему контроля над ИИ на высший уровень глобальной дипломатии. Впервые ИИ обсуждается не как технологический или экономический вопрос, а как потенциальная экзистенциальная угроза. Заседание заложило основу для будущих международных переговоров о договорах, ограничивающих военное применение ИИ.
Источники (прямые):
- https://news.un.org/en/story/2025/09/1165942
- https://apnews.com/article/artificial-intelligence-un-ai-5cb0f21feeb3e734cc0c25eab67fe26d
- https://russiaun.ru/en/news/unsc_ai_240925
CISA выпустила экстренную директиву из-за атак на устройства Cisco
Что произошло: 25 сентября 2025 года Агентство по кибербезопасности и защите инфраструктуры США (CISA) выпустило экстренную директиву (ED 25-03), предписывающую федеральным ведомствам немедленно устранить уязвимости в продуктах Cisco. Решение было вызвано активной эксплуатацией уязвимостей нулевого дня группировкой ArcaneDoor для кибершпионажа.
Как это произошло (технический разбор): Атакующие использовали комбинацию трех уязвимостей (CVE-2025-20333, CVE-2025-20362 и CVE-2025-20363) в ПО Cisco Adaptive Security Appliance (ASA) и Cisco Firepower Threat Defense (FTD). Уязвимости позволяли обходить аутентификацию и удаленно выполнять код на устройствах с активированными функциями VPN. Злоумышленники устанавливали вредоносное ПО «RayInitiator» и «LINE VIPER» для кражи данных и обеспечения постоянного присутствия.
Почему это важно: Инцидент подчеркивает серьезную угрозу для критической инфраструктуры, поскольку затронутое оборудование Cisco широко используется в государственных и корпоративных сетях. Экстренная директива CISA свидетельствует о высоком уровне опасности и масштабе кампании. Этот случай демонстрирует, как спонсируемые государствами хакерские группы используют уязвимости нулевого дня для проведения сложных атак.
Источники (прямые):
- https://www.cisa.gov/news-events/directives/ed-25-03-identify-and-mitigate-potential-compromise-cisco-devices
- https://www.securityweek.com/cisco-firewall-zero-days-exploited-in-china-linked-arcanedoor-attacks/
- https://thehackernews.com/2025/09/urgent-cisco-asa-zero-day-duo-under.html
OpenAI представила сервис покупок в ChatGPT и открытый протокол Agentic Commerce
Что произошло: 29 сентября 2025 года OpenAI анонсировала функцию Instant Checkout, позволяющую пользователям совершать покупки напрямую из ChatGPT. Одновременно был представлен Agentic Commerce Protocol (ACP) — протокол с открытым исходным кодом, разработанный в партнерстве со Stripe для стандартизации взаимодействия между ИИ-агентами и онлайн-магазинами.
Как это произошло (технический разбор): Протокол ACP позволяет ИИ-агентам, таким как ChatGPT, безопасно взаимодействовать с API продавцов для получения информации о товарах, проверки наличия и оформления заказов. Это устраняет необходимость для пользователей переходить на сторонние сайты. Протокол с открытым исходным кодом призван создать универсальный стандарт для «агентной коммерции».
Почему это важно: Этот шаг знаменует собой серьезный сдвиг в сторону «разговорной коммерции» и может коренным образом изменить индустрию онлайн-торговли, создавая конкуренцию поисковым системам и маркетплейсам. Открытый стандарт ACP может способствовать широкому распространению новой модели, в которой ИИ-ассистенты становятся основной точкой входа для потребителей.
Источники (прямые):
- https://openai.com/index/buy-it-in-chatgpt/
- https://techcrunch.com/2025/09/29/openai-takes-on-google-amazon-with-new-agentic-shopping-system/
- https://venturebeat.com/ai/openai-debuts-new-chatgpt-buy-button-and-open-source-agentic-commerce/
Хакеры атаковали сеть детских садов в Лондоне и похитили данные тысяч детей
Что произошло: 26 сентября 2025 года стало известно о кибератаке на лондонскую сеть детских садов Kido, в результате которой были похищены персональные данные, включая фотографии, имена и адреса, более чем 8000 детей. Ответственность взяла на себя группа вымогателей Radiant Group.
Как это произошло (технический разбор): Атака была совершена с использованием программы-вымогателя. Злоумышленники не только похитили данные, но и начали связываться с родителями, оказывая на них психологическое давление с целью заставить руководство Kido заплатить выкуп. Часть похищенной информации была опубликована в даркнете.
Почему это важно: Этот инцидент является одним из самых циничных примеров киберпреступности, поскольку напрямую затрагивает безопасность детей. Атака демонстрирует, что любая организация, хранящая конфиденциальные данные, может стать мишенью, и подчеркивает критическую необходимость внедрения надежных мер кибербезопасности в образовательных учреждениях.
Источники (прямые):
- https://www.bbc.com/news/articles/c62ldyvpwv9o
- https://www.theguardian.com/technology/2025/sep/26/kido-nursery-hackers-radiant-threaten-publish-children-profiles
- https://techinformed.com/hackers-target-nursery-chain-leak-data-dark-web/
Google Drive получил защиту от программ-вымогателей на базе ИИ
Что произошло: 30 сентября 2025 года Google анонсировала новую функцию для Google Drive на настольных компьютерах, которая использует ИИ для обнаружения атак программ-вымогателей и защиты файлов пользователей.
Как это произошло (технический разбор): Новая система работает локально и анализирует активность файлов в реальном времени. Если ИИ-модель обнаруживает подозрительную активность, например, массовое шифрование файлов, она автоматически приостанавливает синхронизацию с облаком. Пользователь получает уведомление и может в один клик восстановить затронутые файлы из «карантина».
Почему это важно: Этот шаг является значительным усовершенствованием в области защиты данных для миллионов пользователей Google Workspace. Внедрение проактивной защиты на уровне клиентского приложения позволяет не только обнаружить, но и оперативно остановить атаку, минимизируя ущерб и упрощая процесс восстановления данных.
Источники (прямые):
- https://www.bleepingcomputer.com/news/security/google-drive-for-desktop-gets-ai-powered-ransomware-detection/
- https://www.theverge.com/news/787815/google-ai-ransomware-drive-detect
- https://habr.com/ru/news/952334/
Уязвимости «Gemini Trifecta» позволяли похищать данные пользователей Google
Что произошло: 30 сентября 2025 года исследователи безопасности раскрыли три уязвимости в ИИ-ассистенте Google Gemini. Эксплуатация этих уязвимостей позволяла злоумышленникам похищать данные из аккаунтов пользователей, включая историю местоположений.
Как это произошло (технический разбор): Атаки основывались на технике «внедрения скрытых подсказок» (indirect prompt injection). Злоумышленник мог внедрить вредоносные инструкции в данные, которые Gemini анализирует (например, в логи или историю поиска). При последующем обращении пользователя к ИИ, эти инструкции заставляли Gemini выполнять несанкционированные действия и отправлять конфиденциальные данные на сервер атакующего.
Почему это важно: Инцидент демонстрирует новый класс угроз, специфичных для LLM, которые активно взаимодействуют с данными пользователя. «Gemini Trifecta» показывает, что даже косвенный контроль над информацией, которую обрабатывает ИИ, может привести к серьезным утечкам данных, что требует пересмотра подходов к безопасности в архитектуре подобных систем.
Источники (прямые):
- https://thehackernews.com/2025/09/researchers-disclose-google-gemini-ai.html
- https://www.darkreading.com/vulnerabilities-threats/trifecta-google-gemini-flaws-ai-attack-vehicle
- https://www.securitylab.ru/news/564098.php
В России обсуждают введение страхования и компенсаций за утечки персональных данных
Что произошло: 29 сентября 2025 года стало известно, что Всероссийский союз страховщиков направил в Совет Федерации предложение о создании системы гарантированных выплат гражданам, пострадавшим от утечек персональных данных, через механизм страхования или взносов в специальный фонд.
Как это произошло (технический разбор): Инициатива предполагает создание механизма, который позволит пострадавшим получать фиксированную компенсацию (например, от 3 до 5 тысяч рублей) в упрощенном порядке. Фиксировать факт утечки и определять круг пострадавших будет Роскомнадзор. Это позволит избежать сложных судебных процессов.
Почему это важно: На фоне кратного роста числа утечек персональных данных в России, эта инициатива может стать первым шагом к созданию реального механизма финансовой ответственности компаний и защиты прав граждан. Введение обязательного страхования может стимулировать бизнес более серьезно относиться к защите данных.
Источники (прямые):
- https://www.asn-news.ru/news/90625
- https://www.korins.ru/posts/13015-zhertvam-utechek-personalnyh-dannyh-mogut-vvesti-garantirovannye-vyplaty-uzhe-v-2026-godu
- https://www.klerk.ru/buh/news/663243/
Россия вошла в тройку стран с полным цифровым суверенитетом
Что произошло: 25 сентября 2025 года на Российском интернет-форуме (РИФ-2025) было заявлено, что Россия, наряду с США и Китаем, входит в тройку стран мира, обладающих полным цифровым суверенитетом.
Как это произошло (технический разбор): Цифровой суверенитет в данном контексте определяется как способность государства самостоятельно обеспечивать свои потребности во всей цифровой сфере: от собственных ОС и ПО до соцсетей, поисковых систем, облачной инфраструктуры и платформ электронной коммерции.
Почему это важно: Достижение цифрового суверенитета является стратегической целью для многих государств, поскольку снижает зависимость от иностранных технологий и повышает устойчивость национальной критической инфраструктуры к внешним угрозам и санкциям. Этот статус отражает значительные изменения в российском ИТ-ландшафте за последние годы.
Источники (прямые):
- https://rg.ru/2025/09/25/kirienko-rossiia-voshla-v-trojku-mirovyh-liderov-po-cifrovomu-suverenitetu.html
- https://expert.ru/news/sergey-kirienko-rossiya-voshla-v-troyku-stran-s-polnym-tsifrovym-suverenitetom/
- https://hightech.fm/2025/09/26/rus-digital-sovereignty
Группировка Akira обходит многофакторную аутентификацию на устройствах SonicWall
Что произошло: 26 сентября 2025 года исследователи из Arctic Wolf сообщили, что программа-вымогатель Akira активно эксплуатирует VPN-шлюзы SonicWall, причем в некоторых случаях атаки успешны даже при включенной многофакторной аутентификации (MFA).
Как это произошло (технический разбор): Атакующие используют скомпрометированные учетные данные для входа через SSL VPN. Исследователи предполагают, что обход MFA возможен либо из-за использования устаревших версий прошивки, либо из-за кражи «секретов» (seeds) для генерации одноразовых паролей (OTP), что позволяет злоумышленникам самим генерировать валидные коды.
Почему это важно: Этот случай подрывает распространенное мнение о том, что MFA является панацеей от атак с использованием украденных учетных данных. Он подчеркивает важность не только внедрения MFA, но и своевременного обновления всех компонентов инфраструктуры безопасности, а также защиты самих механизмов аутентификации.
Источники (прямые):
- https://arcticwolf.com/resources/blog/september-2025-update-ongoing-akira-ransomware-campaign/
- https://www.bleepingcomputer.com/news/security/akira-ransomware-breaching-mfa-protected-sonicwall-vpn-accounts/
- https://www.helpnetsecurity.com/2025/09/29/akira-ransomware-sonicwall-vpn/
Утечка данных из FEMA и Таможенно-пограничной службы США
Что произошло: 30 сентября 2025 года стало известно о «широкомасштабном» инциденте кибербезопасности, в результате которого хакер на протяжении нескольких месяцев имел доступ к сетям Федерального агентства по управлению в чрезвычайных ситуациях (FEMA) и Таможенно-пограничной службы США (CBP), похитив персональные данные сотрудников.
Как это произошло (технический разбор): Злоумышленник использовал уязвимость в продуктах Citrix для получения первоначального доступа. В результате инцидента были скомпрометированы данные, включая имена и номера социального страхования (SSN) сотрудников.
Почему это важно: Утечка данных из ключевых ведомств национальной безопасности США представляет серьезную угрозу. Этот инцидент, связанный с эксплуатацией уязвимости в популярном корпоративном ПО, в очередной раз акцентирует внимание на рисках, связанных со сторонними поставщиками, и необходимости строгого контроля за безопасностью ИТ-инфраструктуры в госсекторе.
Источники (прямые):
- https://www.bloomberg.com/news/articles/2025-09-29/hackers-stole-fema-customs-and-border-protection-employee-data
- https://www.cnn.com/2025/09/30/politics/hacker-stole-fema-border-patrol-data
- https://www.nextgov.com/cybersecurity/2025/09/widespread-breach-let-hackers-steal-employee-data-fema-and-cbp/408456/
«Сбер» выложил в открытый доступ ИИ-модели для генерации видео и работы с текстом
Что произошло: 30 сентября 2025 года «Сбер» объявил о публикации в открытом доступе (open-source) двух своих моделей ИИ: Kandinsky Video Lite для генерации видео по текстовому описанию и Giga-Embeddings для создания векторных представлений текста.
Как это произошло (технический разбор): Обе модели распространяются по открытой лицензии, что позволяет их свободное коммерческое использование. Kandinsky Video Lite способна создавать короткие видеоролики. Giga-Embeddings предназначена для задач семантического поиска и построения RAG-систем (Retrieval-Augmented Generation).
Почему это важно: Публикация мощных ИИ-моделей в открытом доступе является значительным вкладом в развитие российского и международного open-source сообщества. Это позволяет бизнесу и разработчикам ускорять исследования и создавать инновационные продукты, способствуя укреплению технологического лидерства.
Источники (прямые):
- https://www.cnews.ru/news/line/2025-09-30_sber_vylozhil_dve_sobstvennye
- https://habr.com/ru/news/952096/
- https://www.computerra.ru/324610/sber-vylozhil-v-otkrytyj-dostup-dve-sobstvennye-ii-modeli/
Казахстан объявил о создании министерства ИИ и цифрового венчурного фонда
Что произошло: 28 сентября 2025 года президент Казахстана Касым-Жомарт Токаев на первом заседании Совета по искусственному интеллекту объявил о создании нового Министерства искусственного интеллекта и цифрового развития, а также фонда цифровых венчурных инвестиций.
Как это произошло (технический разбор): Новые структуры призваны ускорить цифровую трансформацию страны. Фонд, управляемый Qazaqstan Investment Corporation, будет инвестировать в стратегические проекты в области ИИ. Президент подчеркнул, что ИИ и цифровые технологии являются ключевым фактором национальной конкурентоспособности.
Почему это важно: Эти инициативы свидетельствуют о стратегическом подходе Казахстана к развитию цифровой экономики и ИИ. Создание профильного министерства и инвестфонда нацелено на формирование благоприятной среды для технологических инноваций, привлечение инвестиций и подготовку кадров, что может сделать страну одним из лидеров цифровизации в регионе.
Источники (прямые):
- https://kaztag.kz/ru/news/tokaev-provel-pervoe-zasedanie-soveta-po-razvitiyu-ii
- https://tengrinews.kz/kazakhstan_news/tokaev-ob-ii-rech-idet-o-nashem-suverenitete-582126/
- https://rus.azattyq-ruhy.kz/politics/94871-tsifrovaia-epokha-trebuet-suvereniteta-smyshliaeva
Илон Маск анонсировал «Грокипедию» — альтернативу «Википедии» на базе ИИ
Что произошло: 30 сентября 2025 года Илон Маск заявил о планах его компании xAI создать «Грокипедию» — энциклопедию, полностью генерируемую искусственным интеллектом Grok. Проект позиционируется как альтернатива «Википедии», которую Маск считает политически предвзятой.
Как это произошло (технический разбор): Предполагается, что «Грокипедия» будет использовать LLM Grok для динамической генерации статей на основе анализа информации из открытого интернета. В отличие от «Википедии», где контент создается и редактируется сообществом волонтеров, «Грокипедия» будет полагаться на алгоритмический синтез данных.
Почему это важно: Это прямая атака на один из фундаментальных столпов открытого интернета — совместное создание и верификация знаний. Инициатива Маска иллюстрирует тренд на создание параллельных, AI-driven информационных экосистем, которые могут отражать идеологические установки своих создателей, усугубляя проблему информационных пузырей.
Источники (прямые):
- https://theins.ru/news/285450
- https://lifehacker.ru/anons-grokipedia/
- https://expert.ru/amp/news/ilon-mask-poobeshchal-sozdat-analog-vikipedii-s-pomoshchyu-ii/
Исследование Йельского университета не выявило значимого влияния ИИ на рынок труда США
Что произошло: 1 октября 2025 года было опубликовано исследование экономистов Йельского университета, которое показало, что, вопреки опасениям, внедрение генеративного ИИ пока не привело к заметным сдвигам на рынке труда США, таким как массовые увольнения или снижение зарплат.
Как это произошло (технический разбор): Исследователи проанализировали данные по занятости и заработной плате в сотнях профессий в период до и после появления ChatGPT. Они сопоставили эти данные с индексами подверженности профессий автоматизации с помощью ИИ. Анализ не выявил статистически значимой корреляции между высокой подверженностью ИИ и негативными тенденциями на рынке труда.
Почему это важно: Исследование вносит важную, основанную на данных ноту в дискуссию о влиянии ИИ на занятость. Оно предполагает, что на текущем этапе ИИ чаще используется как инструмент для повышения производительности, а не для полной замены сотрудников. Тем не менее, авторы отмечают, что это лишь ранний этап, и долгосрочные эффекты могут быть иными.
Источники (прямые):
- https://www.brookings.edu/articles/new-data-show-no-ai-jobs-apocalypse-for-now/
- https://www.theguardian.com/technology/2025/oct/01/us-jobs-market-yet-to-be-seriously-disrupted-by-ai-yale-study-chatgpt
- https://www.ft.com/content/c9f905a0-cbfc-4a0a-ac4f-0d68d0fc64aa
Microsoft внедрила ИИ-агентов в Word и Excel для автоматизации сложных задач
Что произошло: 30 сентября 2025 года Microsoft анонсировала появление «агентного режима» в Copilot для приложений Word, Excel и PowerPoint. Новые функции позволяют ИИ-ассистенту самостоятельно выполнять сложные, многоэтапные задачи по текстовому запросу.
Как это произошло (технический разбор): В отличие от предыдущих функций, где Copilot выполнял одну команду, ИИ-агент может обработать комплексный запрос (например, «проанализируй мой бюджет и построй гистограмму»). Для этого агент декомпозирует задачу на подзадачи, последовательно выполняет их в приложении и представляет конечный результат.
Почему это важно: Это значительный шаг в эволюции офисных ИИ-помощников. Переход к агентной модели кардинально повышает уровень автоматизации и приближает Copilot к роли полноценного «цифрового коллеги», что может существенно изменить характер офисной работы.
Источники (прямые):
- https://lenta.ru/news/2025/09/30/ai-agent/
- https://habr.com/ru/amp/publications/951910/
- https://www.finam.ru/publications/item/microsoft-vnedrila-ii-agentov-v-word-i-excel-20251001-2206/
Microsoft выпустила потребительскую подписку 365 Premium с включенным AI-ассистентом Copilot
Что произошло: 1 октября 2025 года Microsoft запустила новый уровень подписки Microsoft 365 Premium для частных пользователей, который включает полный набор офисных приложений, облачное хранилище и доступ к продвинутым возможностям AI-ассистента Copilot.
Как это произошло (технический разбор): Подписка стоимостью $19.99 в месяц объединяет существующие сервисы Microsoft с возможностями генеративного ИИ. Copilot в рамках этого пакета может выполнять сложные задачи, такие как создание презентаций по текстовому описанию, анализ данных в Excel и написание черновиков писем в Outlook.
Почему это важно: Это главный шаг Microsoft по монетизации генеративного ИИ на массовом потребительском рынке. Создавая единый пакет «все включено», компания стремится сделать Copilot неотъемлемой частью повседневной цифровой жизни пользователей, создавая сильную конкуренцию для аналогичных предложений от Google и Apple.
Источники (прямые):
- https://www.reuters.com/technology/microsoft-launches-ai-powered-365-premium-bundle-1999-per-month-2025-10-01/
- https://www.cnbc.com/2025/10/01/microsoft-365-premium-bundle-ai-copilot.html
- https://www.theverge.com/2025/10/1/786991/microsoft-365-premium-copilot-consumer-subscription-price-features
Методика и критерии отбора
Отчет составлен на основе анализа предоставленных материалов, включая файл Ключевые события в сфере КБ 25-01 октября.docx, и дополнительного поиска в открытых источниках. Критерии отбора событий включали: значимость для отрасли (регуляторные прецеденты, крупные инвестиции), техническая новизна (новые векторы атак, прорывные исследования), масштаб влияния (затронутое количество пользователей, компаний), а также географическое и тематическое разнообразие для обеспечения сбалансированного обзора. Приоритет отдавался событиям с подтвержденными первоисточниками.
Author: admin
Related Posts
NCSC: единая и актуальная картина OT-архитектуры
Bain Technology Report 2025: что важно бизнесу про ИИ, роботов, квант и энергетику
