Ctrl+C, Ctrl+V, Ctrl+Gen: как ученому не потерять репутацию в мире сгенерированных научных открытий
Лекция кандидата философских наук, профессора МГУ, эксперта в области биоэтики и искусственного интеллекта Елены Брызгалиной. Тема: Как меняется этика науки под влиянием искусственного интеллекта. 0:00 Этика научного сообщества из-за широкого внедрения ИИ. Подчёркивается важность академической честности для молодых учёных. 2:08 Различие между сильным искусственным интеллектом (фантастический сценарий) и реальными системами/технологиями ИИ. 4:00 Юридические рамки развития ИИ в России. 6:40 Маркировка контента как способ уважения автономии человека, примеры недопонимания пользователями природы чат-ботов. 8:59 Взаимодействие науки с обществом (доверие, права человека). Доверие внутри научного сообщества, правила цитирования, публикации, взаимодействия руководителя и учеников. 11:30 Когда возникает этическая проблема? Конфликты интересов у одного исследователя или между группами (например, сокрытие информации ради чистоты эксперимента vs право участника знать всё). 15:45 Проблема субъектности/субъектности ИИ, позиция РФ — ИИ остаётся инструментом, ответственность лежит только на человеке. 17:15 Международные дискуссии о признании субъектности. 18:15 Применение ИИ в науке. Результаты опросов: большинство учёных уже используют ИИ (поиск литературы, анализ текстов, визуализация, генерация заданий). 19:55 Примеры применения: археология (расшифровка свитков), биология/медицина (разработка лекарств, предсказание болезней по данным носимых устройств), астрономия (обнаружение экзопланет), междисциплинарные исследования (нейросети). 22:20 Возможен ли математический прорыв благодаря ИИ? Проблемы: чёрный ящик, галлюцинации (ложные леммы), отсутствие эстетического критерия, вычислительная стоимость, вопрос авторства. 31:50 Биология и медицина: новый взгляд на «галлюцинации» ИИ Галлюцинации ИИ становятся источником новых идей в биологии (генерация белковых структур, Нобелевская премия за работу с AI). 34:20 Риски: синтез потенциально токсичных молекул, аутсорсинг синтеза без проверки безопасности. 36:30 Этические дилеммы и риски использования ИИ. Несоответствие целей человека и ИИ («поехать быстро»), проблема чёрного ящика, цифровой суд, ложноположительные диагнозы в медицине (пример системы Moeker). 39:00 Фальсификация доказательств через ИИ, риск распространения недостоверных данных, приватность и безопасность персональных данных. 42:00 Гражданская наука и роль общества. Массовое участие людей в научных исследованиях (носимые гаджеты, биомедицинские эксперименты), рост числа участников гражданской науки. 46:00 Пример цифрового аватара человека: банальные рекомендации после дорогостоящих анализов, потенциальные риски для свободы личности и биологических рисков. 50:10 Академическое мошенничество. ИИ облегчает плагиат и фабрикацию результатов («бумажные фабрики»). Признаки фальсификации в публикациях (подозрительно чистые графики, повторяющиеся изображения, отсутствие истории публикаций). 53:30 Четыре сценария реагирования на проблему (усилить рецензирование, запретить использование нейросетей, внедрить распознавание генерированного текста, локальные регламенты). 56:00 Регулирование и перспективы. Необходимость внутренних кодексов и рекомендаций вузов, прозрачное фиксирование параметров используемых моделей, дифференциация правил по дисциплинам. 59:00 Рост значения этических норм по сравнению с правовыми, парадокс регулирования: пока технология новая — можно установить нормы, когда станет массовой — поздно. 1:02:00 Итоги и выводы. ИИ обостряет существующие этические проблемы, а не создаёт принципиально новые. Важна внутренняя мотивация учёного соблюдать стандарты, а не только внешние запреты. Выработка норм возможна, если научное сообщество осознаёт ценность истины и ответственно подходит к использованию технологий.