15 октября в Екатеринбурге на конференции «Код ИБ» выступил Евгений Зеваков, основатель Zevakov Labs, постоянный эксперт Ассоциации инновационных решений и искусственного интеллекта «Регионы XXI ВЕК».
Конференция прошла в креативном кластере «Домна» и объединила специалистов в сфере информационной безопасности, ИТ и искусственного интеллекта, представителей бизнеса, промышленности и технологических компаний.
Евгений Зеваков выступил в секции «ИИ в кибербезе» с докладом «Подходы к автоматизации обезличивания данных для работы с „внешними“ LLM».
В центре выступления была одна из практических проблем внедрения генеративного ИИ в компаниях: сотрудники все активнее используют современные языковые модели для работы с договорами, деловой перепиской, отчетами и другими корпоративными документами. При этом такие материалы могут содержать персональные, конфиденциальные и другие чувствительные данные.
Как отметил Евгений Зеваков, одних внутренних запретов и регламентов недостаточно. Если компания хочет использовать возможности современных ИИ-сервисов, необходимо создавать технологические механизмы, которые позволяют работать с ними безопасно.
Представленный подход предполагает, что чувствительная информация автоматически обезличивается еще до передачи документа внешней языковой модели. При этом исходные данные остаются внутри информационного контура организации, а после получения ответа система позволяет восстановить необходимую информацию.
Такой подход позволяет компаниям использовать внешние ИИ-модели в повседневной работе, одновременно снижая риски передачи персональных и корпоративных данных сторонним сервисам.
Отдельное внимание в выступлении было уделено специфике российского документооборота. По словам эксперта, многие существующие решения создавались прежде всего для зарубежных рынков и не всегда учитывают особенности российских документов и используемых в них данных.
Главный вывод доклада: внедрение генеративного ИИ в бизнесе требует не только доступа к современным моделям, но и встроенных механизмов защиты информации. Безопасность должна обеспечиваться на технологическом уровне и не зависеть только от действий самого сотрудника.
Кроме доклада, Евгений Зеваков принял участие в отраслевой дискуссии «Голос отрасли: Цифровизация, Кибербезопасность, Искусственный Интеллект», посвященной новым возможностям и рискам, которые распространение ИИ создает для бизнеса и информационной безопасности.
Для Ассоциации инновационных решений и искусственного интеллекта «Регионы XXI ВЕК» вопросы защиты корпоративных данных и безопасного использования ИИ являются частью работы по формированию доверенного контура внедрения искусственного интеллекта в регионах и на предприятиях.
По мере перехода бизнеса от экспериментов с нейросетями к их системному применению требования к информационной безопасности становятся одним из ключевых условий масштабного внедрения ИИ.