Что такое «теневой ИИ» в вашей компании
Термин «теневой ИИ» (shadow AI) — по аналогии с «теневым IT»: сервисами, которые сотрудники ставят себе сами, в обход айтишников. С ИИ та же история. Никто формально не внедрял ChatGPT в компанию, не согласовывал это с безопасниками и юристами. Но по факту сотрудники им уже пользуются — каждый день, с личных аккаунтов, часто просто потому что это быстрее, чем спросить коллегу или разбираться самому.
Я как разработчик регулярно вижу эту картину у клиентов: формально в компании «ИИ не используется», а по факту заметная часть команды прогоняет через чат-боты письма, код и презентации — просто никто не смотрел, что именно туда попадает.
Проблема не в том, что сотрудники плохие или невнимательные. Проблема в том, что публичный ИИ-чат — самый удобный инструмент из всех, что у них есть под рукой прямо сейчас, а корпоративной альтернативы этому инструменту чаще всего просто не существует. Пока не появится своя, легальная и такая же быстрая замена, теневое использование будет только расти вместе с тем, насколько люди привыкают полагаться на ИИ в повседневной работе.
Как это происходит на практике
Обычно это не злой умысел, а спешка. Разработчику нужно быстро понять, почему падает тест, — он копирует кусок кода вместе с именами внутренних сервисов. Менеджеру нужно вежливо ответить недовольному клиенту — он вставляет всю переписку целиком, вместе с номером договора и суммой. Бухгалтер сверяет таблицу — загружает файл с реальными цифрами, чтобы ИИ помог найти ошибку.
Каждое из этих действий по отдельности выглядит безобидно. Но в сумме через публичный чат утекают:
- фрагменты кода и внутренней архитектуры;
- переписка с клиентами и партнёрами;
- черновики договоров и коммерческих предложений;
- персональные данные клиентов и сотрудников;
- финансовые показатели и внутренняя отчётность.
Про персональные данные и что говорит закон я подробно писал в статье ИИ и персональные данные — здесь же речь не про юридическую сторону, а про то, что данные физически оказываются на чужих серверах, и обратно их уже не забрать.
Самый известный публичный пример — история Samsung в 2023 году, когда сотрудники несколько раз вставили в ChatGPT внутренний код и материалы совещаний, после чего компания ограничила использование внешних ИИ-сервисов. Это не редкий курьёз, а скорее иллюстрация того, что происходит в любой компании, где никто не смотрит, куда уходят данные.
Данные не «взломали» — их вынесли добровольно, по одному фрагменту за раз, потому что так было быстрее.
Почему запреты и блокировки не работают
Первая реакция службы безопасности — заблокировать ChatGPT на рабочих компьютерах. Логично, но не работает. Сотрудник, которому нужна скорость, просто открывает тот же чат с личного телефона через мобильный интернет — и компания теряет вообще любую видимость происходящего. Раньше данные хотя бы проходили через корпоративную сеть, теперь не проходят и там.
Запрет решает проблему на бумаге, но не решает саму задачу, ради которой сотрудник открыл ИИ-чат, — быстро получить ответ, не отвлекая коллег. Пока у человека нет легального и такого же быстрого способа получить этот ответ, теневое использование никуда не денется, оно просто уйдёт глубже.
Что делать вместо запрета
Рабочий вариант — не убирать ИИ, а дать сотрудникам контролируемую замену: ассистента, который отвечает по внутренним документам компании, но не отправляет эти документы наружу, в публичный сервис. Технически это чаще всего решается через RAG — подход, при котором ИИ ищет ответ в вашей базе знаний, а не в открытом интернете и не в чужом облаке. Я разбирал этот механизм отдельно в статье RAG простыми словами.
Разница для сотрудника минимальна — он так же быстро получает ответ в привычном чат-интерфейсе. Разница для бизнеса принципиальная: данные остаются в контуре компании, доступ можно ограничить по ролям, а историю запросов — при необходимости посмотреть.
Это не отменяет здравого смысла и базовой цифровой гигиены — но снимает главное противоречие, из-за которого запреты и провоцируют теневое использование: сотруднику больше не нужно выбирать между скоростью и правилами компании, потому что быстрый вариант уже и есть правильный.
С чего начать, если хотите разобраться у себя
Не нужно сразу строить сложную систему. Достаточно честно ответить на пару вопросов: пользуются ли сотрудники публичными ИИ-чатами для рабочих задач (почти наверняка да), и что именно они туда вставляют чаще всего. Дальше — решить, для каких задач это действительно нужно, и закрыть их контролируемым инструментом, а не голым запретом.
Частые вопросы
Что такое «теневой ИИ» в компании?
Это использование сотрудниками публичных ИИ-сервисов вроде ChatGPT для рабочих задач без ведома и контроля руководства или IT-отдела. Формально в компании ИИ никто не внедрял, но по факту он уже работает — просто на стороне, с корпоративными данными внутри чужого чата.
Какие данные чаще всего попадают в публичный ChatGPT?
Чаще всего это фрагменты кода, внутренние документы и регламенты, переписка с клиентами, черновики договоров и финансовые данные — всё, что сотрудник хочет быстро переформулировать, проверить или сократить. По некоторым оценкам ИБ-компаний, значительная часть сотрудников хотя бы раз вставляла рабочие данные в публичный ИИ-чат.
Почему просто запретить ChatGPT сотрудникам не работает?
Запрет убирает сервис из корпоративной сети, но не убирает саму задачу и не даёт сотруднику такую же скорость работы другим способом — поэтому люди продолжают пользоваться ИИ с личного телефона или через VPN, просто вне поля зрения IT. Проблема не исчезает, а становится менее заметной.
Как защититься от утечки данных через ИИ-чаты?
Дать сотрудникам контролируемый инструмент на собственных данных компании — например, ассистента на базе RAG, который отвечает по внутренним документам, но не отправляет их во внешний публичный сервис. Тогда у людей отпадает причина нести данные наружу.