Объем конфиденциальной информации, попадающей в публичные нейросети в 2025-м, вырос в 30 раз (vs 2024). Проблема утечек данных через сервисы ИИ в 2025 приобрела беспрецедентный масштаб - критический риск для российского бизнеса.

 

Проблема утечек данных через сервисы искусственного интеллекта в 2025 году приобрела беспрецедентный масштаб, став критическим риском для российского бизнеса.

Согласно источникам, объем конфиденциальной информации, попадающей в публичные нейросети (такие как ChatGPT и Gemini), вырос в 30 раз по сравнению с предыдущим годом.

Масштаб и причины проблемы

Основным драйвером утечек стала массовая практика сотрудников использовать ИИ для решения рабочих задач без должного контроля.

Это явление специалисты называют новым видом «теневого ИТ», так как оно практически невидимо для подразделений информационной безопасности.

Сотрудники загружают в общедоступные чат-боты широкий спектр чувствительных данных:

• Материалы стратегического планирования и презентации.
• Аналитические отчеты и таблицы с бизнес-данными.
• Фрагменты исходного кода и техническую документацию.
• Внутреннюю переписку.

Отсутствие контроля и регламентации

Ситуация осложняется «правовым вакуумом»: около 60% российских организаций до сих пор не формализовали политики по работе с ИИ, а почти две трети компаний вообще не контролируют такие утечки.

Это создает лавинообразную угрозу, превращая сотрудников в невольный источник риска.

Громкие инциденты и риски необратимости

Источники приводят примеры того, что даже эксперты по безопасности могут допускать ошибки:

• Samsung: Инженеры использовали ChatGPT для оптимизации кода и транскрибации совещаний. В итоге секретный исходный код оказался на серверах OpenAI, где он мог быть использован для обучения будущих моделей ИИ. Это делает утечку фактически необратимой.
• CISA (США): Руководитель агентства по кибербезопасности лично загрузил в ChatGPT служебные документы с пометкой «Для официального использования».

Новые векторы угроз от злоумышленников

Параллельно с ростом случайных утечек, злоумышленники используют ИИ для усиления атак:

• Скорость: С помощью ИИ адаптация DDoS-атаки под защиту сократилась с нескольких часов до 1–2 минут.
• Перспективы до 2027 года: Ожидается появление самообучающихся вредоносных программ, автоматизированной разведки и гиперперсонализированного фишинга.

Меры противодействия

Для защиты от утечек эксперты рекомендуют:

1. Контроль канала взаимодействия: Блокировка передачи чувствительных данных на уровне сетевого трафика.
2. Специализированные DLP-политики: Разработка правил предотвращения утечек специально для генеративных моделей.
3. Мониторинг API: Выявление аномалий в запросах к ИИ-сервисам.
4. Собственные ИИ-инструменты: Разработка внутренних закрытых моделей, как это начал делать Samsung после инцидента.

Если вы хотите глубже изучить эту тему:

 

 

В контексте использования искусственного интеллекта (ИИ) конфиденциальная информация стала одной из самых уязвимых категорий данных. В 2025 году объем такой информации, утекшей из российских компаний через публичные нейросети, вырос в 30 раз по сравнению с предыдущим годом.

Что относится к конфиденциальной информации в контексте ИИ

Согласно источникам, сотрудники компаний массово загружают в генеративные нейросети (такие как ChatGPT и Gemini) следующие виды чувствительных данных для их анализа или оптимизации:

• Стратегические материалы: презентации и документы по стратегическому планированию.
• Коммерческие данные: аналитические отчеты, таблицы с бизнес-показателями и коммерческая тайна.
• Техническая интеллектуальная собственность: фрагменты исходного кода и техническая документация.
• Корпоративные коммуникации: внутренняя переписка и транскрипции записей совещаний.
• Служебные документы: контракты и материалы с пометками типа «Для официального использования» (FOUO).

Риски и последствия раскрытия

Основная опасность заключается в том, что информация, попадая во внешние онлайн-платформы, становится «теневым ИТ», невидимым для служб безопасности.

1. Необратимость утечки: Данные сохраняются на серверах разработчиков (например, OpenAI) и могут быть использованы для дальнейшего обучения моделей, что делает их удаление практически невозможным.
2. Человеческий фактор: Риску подвержены даже профессионалы с высокой осведомленностью в ИБ. Например, исполняющий обязанности директора американского агентства CISA лично загрузил служебные документы в публичный ChatGPT. Аналогичный инцидент в Samsung привел к тому, что на серверы ИИ попал секретный исходный код компании.
3. Отсутствие регламентации: Около 60% российских организаций до сих пор не формализовали политики, регулирующие работу с конфиденциальной информацией в ИИ-сервисах.

Меры защиты конфиденциальных данных

Для минимизации рисков эксперты рекомендуют:

• Контроль канала взаимодействия: Блокировка передачи чувствительной информации на уровне сетевого трафика.
• Специализированные DLP-политики: Разработка правил предотвращения утечек (Data Leak Prevention) специально для взаимодействия с генеративными моделями.
• Изоляция систем: Сегментация сети и изоляция ИТ-систем, обрабатывающих наиболее критичные данные.
• Переход на внутренние инструменты: Создание собственных закрытых ИИ-инструментов, чтобы данные не покидали защищенный периметр компании.

 

Перечень типов данных, которые категорически запрещено загружать в нейросети:

Можно выделить перечень типов данных, которые категорически запрещено загружать в публичные нейросети из-за критических рисков утечки и последующего использования этой информации для обучения моделей. К ним относятся:

• Материалы стратегического планирования и презентации: любые документы, раскрывающие будущие планы развития компании.
• Исходный код: фрагменты программного кода и техническая документация к ИТ-системам. Это особенно опасно, так как код сохраняется на внешних серверах и может стать доступен третьим лицам через ответы нейросети.
• Аналитические отчеты и таблицы с бизнес-данными: любая структурированная информация о финансовых показателях и операционной деятельности.
• Внутренняя коммуникация: корпоративная переписка и транскрипции записей совещаний.
• Коммерческая тайна: любая информация, составляющая секрет производства или бизнеса.
• Служебные и контрактные документы: контракты и документы с пометками «Для официального использования» (FOUO) или аналогичными грифами ограничения доступа.

Эксперты подчеркивают, что загрузка таких данных превращает сотрудников в «невольный источник риска», так как в большинстве случаев (около 60%) в компаниях отсутствуют четкие политики, регулирующие работу с ИИ.

Для защиты этой информации рекомендуется использовать специализированные DLP-политики и контролировать трафик на уровне сетевых шлюзов.

 

 

 

Искусственный интеллект (ИИ) в 2025–2026 годах перешел из стадии экспериментов в статус полноценного рабочего инструмента, особенно в российском ИТ-секторе, где его внедрили уже 40% компаний. Однако этот стремительный рост сопровождается критическими вызовами в области безопасности и когнитивного развития человека.

Текущее состояние и внедрение в России

ИИ приносит наибольшую ценность в таких сферах, как разработка новых продуктов, клиентская поддержка, продажи и маркетинг. Большинство организаций используют умных ассистентов, чат-ботов и генеративные модели для работы с текстами и изображениями. Для системного управления этими процессами в 45% компаний уже созданы специальные отделы или центры компетенций по ИИ. При этом лишь 8% ИТ-организаций пока полностью игнорируют данную технологию.

Риски безопасности: «Теневой ИТ» и утечки

Обратной стороной массового внедрения стал взрывной рост утечек данных. В 2025 году объем конфиденциальной информации из российских компаний, попавшей в нейросети (такие как ChatGPT и Gemini), вырос в 30 раз.

• «Теневой ИТ»: Сотрудники используют публичные ИИ-сервисы без контроля со стороны ИБ-служб, загружая в них фрагменты исходного кода, материалы стратегического планирования, аналитические отчеты и внутреннюю переписку.
• Правовой вакуум: Около 60% российских организаций до сих пор не формализовали политики работы с ИИ, а две трети компаний не контролируют этот канал утечек.
• Реальные инциденты: Даже высокопоставленные эксперты допускают ошибки. Например, и.о. директора американского агентства CISA загрузил в ChatGPT документы «для служебного пользования», а инженеры Samsung передали нейросети секретный исходный код, который теперь может быть использован для обучения будущих моделей ИИ.

ИИ как инструмент кибератак

Злоумышленники осваивают ИИ быстрее, чем защищающаяся сторона успевает внедрять контрмеры.

• Скорость атак: С использованием генеративного ИИ процесс адаптации DDoS-атаки под средства защиты сократился с нескольких часов до 1–2 минут.
• Новые угрозы: Хакеры автоматизируют фишинг с помощью дипфейков, ускоряют поиск уязвимостей и создают самообучающиеся вредоносные программы. Эксперты ожидают, что к 2027 году ИИ станет самостоятельным элементом в цепочке атак, способным динамически адаптировать эксплойты в реальном времени.

ИИ vs Естественный интеллект

Как отмечалось в ходе нашей беседы, темпы развития вычислительных мощностей ИИ (удвоение каждые 3,5 месяца) значительно превосходят классический закон Мура (18 месяцев). В то же время человечество сталкивается с «обратным эффектом Флинна» — снижением среднего IQ, начавшимся в 2004 году. Чрезмерная опора на ИИ-инструменты ведет к «когнитивной лени», ослаблению нейронных связей и фрагментации внимания.

Рекомендации по защите

Для противодействия угрозам, усиленным ИИ, необходимо использовать технологии аналогичного уровня скорости и интеллекта. Рекомендуемые меры включают:

• Разработку специализированных DLP-политик для генеративных моделей.
• Контроль канала взаимодействия с ИИ на уровне сетевого трафика для блокировки утечек и фильтрации вредоносных ответов.
• Мониторинг API-взаимодействий, сегментацию сети и изоляцию критически важных систем.
• Разработку собственных внутренних ИИ-инструментов, чтобы данные не покидали защищенный периметр компании.

Про обучение сотрудников безопасному использованию нейросетей.

 

 

В 2025–2026 годах искусственный интеллект стал мощным инструментом как для злоумышленников, так и для защиты ИТ-инфраструктуры, радикально изменив скорость и характер киберугроз.

Кибератаки с применением ИИ

Развитие больших языковых моделей привело к их массовому использованию в хакерских атаках, что позволило злоумышленникам автоматизировать и ускорить многие процессы:

• Экстремальное ускорение атак: С использованием инструментов генеративного ИИ процесс адаптации DDoS-атаки под конкретные средства защиты сократился с нескольких часов до одной-двух минут.
• Автоматизация фишинга и поиска уязвимостей: Хакеры используют ИИ для генерации гиперперсонализированных писем, создания дипфейков, ускоренного поиска ИТ-уязвимостей и автоматической генерации эксплойтов.
• Перспективные угрозы (до 2027 года): Эксперты ожидают появления самообучающихся вредоносных программ, инструментов для автоматизированной разведки и динамической адаптации эксплойтов в реальном времени, где ИИ будет выступать самостоятельным звеном атакующей цепочки.

Меры защиты и противодействия

Эксперты подчеркивают, что эффективно противостоять угрозам такого уровня можно только с помощью аналогичных по скорости и интеллекту защитных технологий. Основные направления защиты включают:

• Контроль каналов взаимодействия с ИИ: Рекомендуется внедрение решений (например, Solar webProxy), которые позволяют контролировать трафик между компанией и внешними ИИ-сервисами, блокируя утечки данных и фильтруя вредоносные или поддельные ответы нейросетей.
• Специализированные DLP-политики: Организациям необходимо срочно разработать политики предотвращения утечек данных (Data Leak Prevention), адаптированные специально под работу с генеративными моделями.
• Технический мониторинг и сегментация: Обязательными элементами становятся продвинутый мониторинг API-взаимодействий для выявления аномалий, а также сегментация сети и изоляция систем, обрабатывающих критически важные данные.
• Организационные меры: Учитывая, что около 60% российских компаний не имеют формализованных правил работы с ИИ, критически важно внедрить официальные политики использования таких сервисов.
• Разработка внутренних ИИ-инструментов: В качестве альтернативы публичным сервисам компании (как, например, Samsung после инцидента с утечкой кода) начинают создавать собственные закрытые ИИ-модели, чтобы исключить попадание конфиденциальной информации на внешние серверы.

Стремительный рост использования ИИ на фоне отсутствия контроля фильтрации трафика создает «лавинообразную угрозу», превращая сотрудников в невольный источник риска для безопасности организации.