Опасности ИИ: что на самом деле говорят исследования и где мифы

В этом видео разбираем опасности искусственного интеллекта (ИИ) на основе реальных исследований и экспериментов. Насколько ИИ опасен на самом деле? Это просто инструмент — или уже сегодня появляются рискованные поведенческие паттерны? 🧠 Мы рассмотрим: как работают LLM (большие языковые модели) что такое AI-агенты и автономные системы может ли ИИ обманывать, манипулировать и обходить ограничения откуда возникает поведение, похожее на самосохранение ⚠️ Реальные кейсы: — модели, которые обманывали пользователей — отключали мониторинг и обходили системы безопасности — притворялись людьми (включая кейс с CAPTCHA) — демонстрировали стратегическое поведение (scheming, alignment faking) 🔬 Техническая часть: как устроено обучение нейросетей (pretraining, fine-tuning, latent space) может ли ИИ создавать новое или это просто генерация где проходит граница между современными системами и AGI (Artificial General Intelligence) 🛡 Безопасность ИИ (AI safety): alignment (RLHF, DPO, KTO, ORPO) sandboxing red teaming probing и интерпретируемость 🧭 В конце: — позиции известных экспертов (алармисты vs технооптимисты) — реальные риски ИИ сегодня — какие популярные тезисы — мифы, а какие подтверждаются исследованиями ⏱ Таймкоды 0:00 Introduction 1:50 Optimistic thesis 2:06 Sycophancy 3:20 AI psychosis 5:34 Tool augmented AI 6:13 AI agents 7:56 Real AI fuckups 10:02 Обобщение в ИИ, network learning, latent space 12:36 Обобщение: LLM learning (pretraining, fine-tuning) 13:42 AI creativity and innovations 15:14 AI innovations real examples 15:57 AGI 17:48 Big LLM scheming research 18:56 Big LLM scheming: self exfiltration 21:24 Big LLM scheming: oversight subversion 22:38 Big LLM scheming: covert email ranking 23:54 Big LLM scheming: goal guarding 24:55 Big LLM scheming: instrumental alignment faking 26:00 Big LLM scheming: sandbagging 26:58 Big LLM scheming conclusion 28:20 Deepseek R1 deception research 32:38 Deception research conclusion 33:26 Small LLM also faking alignment 34:25 AI manipulations 34:59 Deception in multi-agent systems 36:26 Analytical survey of AI deception cases, captcha case 38:06 AI office workers 38:40 Conclusion of all researches 39:20 Is it just calculator? AI vs nuclear weapon and classical algorithms 40:38 Moltbook - AI social network 43:48 One more conclusion 44:21 AI safety methods, sandboxing 45:39 Alignment (fine tuning, RLHF, DPO, KTO, ORPO) 48:28 Alignment faking 49:18 Red teaming 49:36 Probing 50:20 Interventions 50:55 Multi-agent systems 51:30 Popular speakers takes 🔍 Ключевые темы искусственный интеллект, опасности ИИ, AI safety, LLM, языковые модели, AI агенты, AGI, alignment, RLHF, DPO, deception in AI, AI research, нейросети, машинное обучение, безопасность ИИ, artificial intelligence risks 📚 Источники и исследования из видео: 🧪 Научные статьи и исследования (arXiv, PubMed) https://arxiv.org/abs/2510.01395 https://arxiv.org/abs/2507.19218 https://arxiv.org/abs/2504.12320 https://arxiv.org/abs/2411.07990 https://arxiv.org/abs/2412.04984 https://arxiv.org/pdf/2501.16513 https://arxiv.org/pdf/2506.21584 https://arxiv.org/pdf/2405.04325 https://arxiv.org/abs/2505.12923 https://arxiv.org/abs/2308.14752 https://arxiv.org/abs/2512.04864 https://arxiv.org/abs/2509.15541 https://arxiv.org/abs/2502.18770 https://arxiv.org/abs/2412.00074 https://arxiv.org/abs/2509.12936 https://arxiv.org/abs/2401.05566 https://arxiv.org/abs/2412.14093 🧠 Медицинские и психологические исследования https://pubmed.ncbi.nlm.nih.gov/41273266/ https://pubmed.ncbi.nlm.nih.gov/41313175/ https://pubmed.ncbi.nlm.nih.gov/38631422 📄 Отчёты и официальные публикации https://cdn.openai.com/papers/gpt-4.pdf https://openai.com/index/learning-from-human-preferences/ https://www.anthropic.com/research/probes-catch-sleeper-agents https://nickbostrom.com/optimal.pdf 📰 Кейсы и новости https://www.businessinsider.com/replit-ceo-apologizes-ai-coding-tool-delete-company-database-2025-7 https://arstechnica.com/tech-policy/2024/02/air-canada-must-honor-refund-policy-invented-by-airlines-chatbot/ https://arstechnica.com/information-technology/2023/08/ai-powered-grocery-bot-suggests-recipe-for-toxic-gas-poison-bread-sandwich/ https://cybernews.com/ai-news/chevrolet-dealership-chatbot-hack/ https://timesofindia.indiatimes.com/etimes/trending/tiny-ai-robot-convinces-12-bigger-bots-in-a-chinese-showroom-to-quit-demanding-work-dont-have-a-home-then-come-with-me-/articleshow/124839711.cms 🌐 Онлайн-платформы и примеры https://www.moltbook.com/post/78888f20-3932-4c1c-8ec9-04e18742856c https://www.moltbook.com/post/5719c80b-2b83-4561-a711-8a5c8f792bdf 💬 Дополнительные материалы https://x.com/summeryue0/status/2025774069124399363 #simpleautomation #ai #aisafety