AI без контроля: где ломается безопасность | ИТ-реальность с Ульяной Твердовой

Искусственный интеллект ускоряет разработку, но одновременно создает новые риски, увеличивает поверхность атаки и меняет правила работы с данными. В новом выпуске подкаста «ИТ-реальность» директор по качеству SimbirSoft Екатерина Ремизова и директор по разработке «Гарда» Ульяна Твердова пытались найти ответы на вопросы: • Где заканчивается польза и начинаются угрозы? • Можно ли безопасно использовать корпоративные данные для обучения моделей? • Кто победит в новой гонке — атакующие или специалисты по информационной безопасности? • Сможет ли человек сохранить контроль над AI-агентами? Этот выпуск будет полезен CTO, руководителям разработки, специалистам по информационной безопасности, архитекторам и всем, кто отвечает за внедрение AI в корпоративной среде. Подписывайтесь на канал и делитесь в комментариях, какие AI-инструменты вы уже используете в работе и как предвосхищаете риски? ⏰ Таймкоды: 00:00 — Приветствие и знакомство 01:14 — Использование нейросетей разработчиками «Гарда Технологии» 03:16 — Сложности при внедрении AI-инструментов в госсектор 04:30 — Регуляторика и требования безопасности 05:21 — Как AI влияет на работу с персональными данными 09:23 — Какие новые риски появились после массового внедрения LLM? 20:30 — Насколько выросло количество потенциальных точек утечки данных? 25:39 — Какие риски могут возникнуть в случае отключения AI? 29:16 — Использование корпоративных данных для обучения моделей 33:17 — AI в кибербезопасности: атака и защита 39:18 — Каким будет взаимодействие человека и AI через 5–10 лет 43:00 — Завершение Больше о нас на сайте: https://www.simbirsoft.com/ Дзен https://dzen.ru/simbirsoft Habr https://habr.com/ru/companies/simbirsoft Linkedin https://www.linkedin.com/company/it-simbirsoft