60% сотрудников используют ИИ с собственных аккаунтов для работы

Россияне активно используют искусственный интеллект для работы, по оценкам экспертов, порядка 25% российских работников применяют ИИ-модели для решения профессиональных задач. При этом порядка 60% граждан используют для этого собственные аккаунты в популярных нейросетях. Эксперты «Кросстеха» указывают, что это создает дополнительные риски безопасности, например, утечки или заражения вредоносным ПО. Об этом CNews сообщили представители «Кросстеха».

Специалисты компании указывают, что использование собственных аккаунтов для работы в нейросетях является одним из проявлений теневого ИТ — информационных ресурсов, которые используются для решения рабочих задач, хранения и обработки корпоративной информации, но не находятся под контролем ИТ и ИБ-служб.

Практика использования личных аккаунтов в ИИ-моделях для решения рабочих задач связана с рядом факторов. Во-первых, доступ к популярным зарубежным нейросетям, например, ChatGPT или Claude, в России ограничен. Частным и корпоративным пользователям приходится ухищряться, чтобы оплатить подписку и обеспечить стабильную работу. Многие компании не готовы организовывать подобные процессы, поэтому сотрудники используют личные аккаунты для работы. Во-вторых, российские модели зачастую отстают от иностранных по ряду возможностей, но их легче подключить для корпоративного использования. Чтобы закрыть недостающий функционал, пользователи могут использовать личные подписки.

В «Кросстехе» также выделяют ряд рисков, связанных с использованием личных аккаунтов в рабочих целях для безопасности бизнеса. Прежде всего это утечка конфиденциальной информации: причем речь не только о том, что загруженные в нейросеть данные будут использованы для ее обучения и впоследствии будут выдаваться при ответе другим пользователям. Этот функционал можно отключить в настройках, однако загрузка чувствительной информации в чат все равно будет утечкой, создающей дополнительные риски. Наибольшая опасность здесь — взлом личных аккаунтов и выгрузка чувствительной информации из чатов, которые пользователь мог не удалить.

Другая важная проблема — мошенничество с подписками. По данным «Кросстеха», с начала года появилось более 400 фишинговых ресурсов, где пользователям предлагали якобы оформить подписки на иностранные сервисы. Вместо этого жертвы теряют средства, персональную информацию, а иногда доступ, например, к мессенджерам. Еще одна проблема использования ИИ для решения корпоративных задач — галлюцинации моделей. По оценкам специалистов, в зависимости от сложности задач для наиболее продвинутых моделей фейковые ответы могут достигать 15%. При невнимательной работе с ИИ это создает риски для стабильности бизнес-процессов и безопасности: например, ошибочные данные от ИИ могут привести к неправильным выводам аналитиков, а ошибка в коде, созданном моделью, к нарушениям в стабильности инфраструктуры и безопасности.

«Важно понимать, что не каждый случай использования собственного аккаунта в нейросети является потенциальным инцидентом информационной безопасности. Если пользователь просит ChatGPT собрать и структурировать общедоступную информацию о каком-нибудь явлении, перенести в таблицу данные, которые не являются чувствительными, то это вполне безопасное использование ИИ. Проблемы возникают в случаях, когда в сторонние сервисы загружаются клиентские данные, финансовая отчетность компании, внутренняя документация или иная конфиденциальная информация. В такой ситуации организация может столкнуться с серьезными рисками и утечкой чувствительных данных. Поэтому процесс использования нейросетей и любых других внешних ресурсов должен быть строго регламентирован. Сотрудники должны понимать, какие действия являются безопасными, а какие - категорически нельзя осуществлять. Кроме того, компаниям важно регулярно проводить обучение сотрудников по безопасному использованию ИИ-инструментов, поскольку именно недостаток осведомленности чаще всего становится причиной инцидентов», — сказала Анастасия Мельникова, руководитель департамента оценки защищенности «Кросстеха».