Эксперт рассказал об опасениях бизнеса при использовании ИИ
Объем конфиденциальной информации, которую сотрудники российских компаний передают в публичные нейросети, за 2025 год вырос более чем в 30 раз. Об этом «Известиям» заявил руководитель направления Т1 ИИ Сергей Голицын. В запросы к языковым моделям попадают коммерческие предложения, договоры, финансовые отчеты, персональные данные клиентов и деловая переписка, добавил он.
«Главная проблема — отсутствие контроля над передачей данных в ИИ‑системы. При этом у 60% организаций нет четкой политики по использованию ИИ‑инструментов и больших языковых моделей (LLM). Особую опасность представляют сценарии, когда разработчики используют публичные LLM‑интерфейсы для работы с кодом: во внешние сервисы могут утечь фрагменты внутренней логики и чувствительная бизнес‑информация», — объяснил эксперт.
По словам Сергея Голицына, программное обеспечение, созданное исключительно с помощью ИИ, содержит в 15 раз больше уязвимостей, чем написанное человеком. Среди наиболее частых — отсутствие фильтрации ввода и некорректная авторизация. Еще одна угроза связана с агентными системами: их сегодня тестируют около 62% компаний. В случае компрометации такие системы открывают злоумышленникам доступ ко всему ИТ‑контуру организации.
Для решения проблемы эксперт рекомендует развертывать ИИ‑инструменты внутри собственного ИТ‑периметра и использовать проверенные библиотеки данных. Для критически важных отраслей (финансовый сектор, госструктуры) оптимальным решением может стать гибридная модель: локальный программно‑аппаратный комплекс для работы с чувствительными данными и доверенное облако для масштабируемых вычислений.
Подробнее читайте в материале «Известий»:
Люди и утечки: почему отечественный бизнес отказывается от внедрения ИИ
