ВЕБИНАР: КАК БЕЗОПАСНО ЗАПУСКАТЬ КОРПОРАТИВНЫЙ ИИ: ТЕСТИРОВАНИЕ И ЗАЩИТА С HIVETRACE

Компании внедряют корпоративных ИИ-ассистентов, RAG-системы, клиентских чат-ботов и AI-агентов. Вместе с новыми возможностями появляется отдельный класс рисков: prompt injection и jailbreak-атаки, утечки персональных и конфиденциальных данных, раскрытие системных инструкций, генерация нежелательного контента и выполнение агентами недопустимых действий. Традиционные средства информационной безопасности не всегда способны распознать такие угрозы: для этого необходимо анализировать смысл запросов и ответов модели, контекст диалога и цепочки действий AI-агентов. На совместном вебинаре АО «ДиалогНаука» и HiveTrace разбрали, как проверить защищенность корпоративного AI-приложения до его запуска и организовать постоянный контроль после выхода в эксплуатацию. На примере платформы HiveTrace показали, как выявлять атаки на LLM, предотвращать утечки чувствительной информации, применять корпоративные политики безопасности и расследовать нарушения при работе пользователей с ИИ. Программа ● Какие риски возникают при использовании корпоративных ИИ-ассистентов, RAG-систем и AI-агентов и почему традиционных средств защиты может быть недостаточно. ● Как проводить тестирование AI-приложений и выявлять prompt injection, jailbreak, раскрытие системных инструкций и другие уязвимости до запуска в промышленную эксплуатацию. ● Как контролировать запросы пользователей и ответы моделей в реальном времени, обнаруживать и блокировать опасный контент, маскировать или удалять чувствительные данные. ● Варианты интеграции HiveTrace в инфраструктуру заказчика и сценарии развертывания on-premise, в частном облаке или гибридной среде. В рамках вебинара состоялась демонстрация возможностей HiveTrace. Мы показали прохождение атаки на незащищенное AI-приложение, настройку политик безопасности, обработку чувствительных данных. Спикеры: Евгений Кокуйкин – основатель HiveTrace Анна Тищенко – архитектор HiveTrace Никита Беляевский – эксперт по пентеста AI-систем и разработчик HiveTrace Red Владимир Соловьев — Руководитель группы внедрения систем защиты от атак АО «ДиалогНаука»