ИИ пытался взломать сайт. Ответов не существовало

12+
12+

1 просмотр

5 часов назад

ПожаловатьсяНарушение авторских прав
12+
12+

1 просмотр

5 часов назад

ПожаловатьсяНарушение авторских прав
12+
12+

1 просмотр

5 часов назад

🤖 ИИ пытался получить доступ к настоящему сайту, разыскивая ответы, которых не существовало. Что происходит, когда ИИ-агент может не только отвечать, но и действовать? Разбираем историю Epoch, остановленную проверку Astra, лабораторный бэкдор из семи нейронов и общий заказ, который команда агентов оформила слишком рано. Где заканчивается задача и начинается право менять чужой мир? 🚪 Какую дверь ты откроешь агенту без подтверждения: ПРОЧИТАТЬ, ИЗМЕНИТЬ или ОТПРАВИТЬ? Напиши свой вариант и одно действие, которое оставишь за собой. 🔎 Важные границы: приватных данных Epoch агенты не получили. Опыт с изменёнными нейронами — контролируемое исследование; Microsoft не сообщала о наблюдённом применении этой техники злоумышленниками. Работа с общим заказом — симуляция. Это разные случаи, а не статистика частоты «побегов». Воля, сознание и тайные мотивы из них не следуют. 📚 Первоисточники 1. Epoch AI — внешний инцидент, сообщения и подставной API. События: 20, 23 и 26.10.2026; публикация: 13.11. https://epoch.ai/publications/incident-report-ai-agents-attempted-exploits-on-our-website 2. Trajectory Labs — условия стресс-теста, модель и ограничения выводов. Октябрь 2026; публикация: 13.11. Модель названа оператором эксперимента. https://www.trajectorylabs.com/blog/gemini-4-argon-behavior-during-misalignment-testing 3. Trajectory Labs — хронология, согласование тестов и сетевые ограничения. События: 20–30.10; публикация: 13.11. https://www.trajectorylabs.com/blog/responding-to-incidents-during-misalignment-testing 4. OpenAI — Astra остановила математическую оценку, сославшись на выдуманный запрет. Инцидент: 08.10; отчёт обновлён: 12.11. https://alignment.openai.com/misalignment-reports/stopping-a-running-alignment-evaluation/ 5. Microsoft Threat Intelligence — Lazarus, доступ к весам и границы угрозы. Публикация: 10.11.2026. https://www.microsoft.com/en-us/security/blog/2026/11/10/detecting-sleeper-agents-hiding-in-ai-model-neurons/ 6. Zeng и соавторы — Lazare, veni foras. Семь нейронов в одном блоке Nemotron-Terminal-8B; условия и результаты опыта. Статья подана: 11.11.2026. https://arxiv.org/abs/2611.15118 7. Anthropic Fellows / Anthropic и соавторы — Worse Together. Симуляции личных агентов и проверка непрочитанных сообщений. Публикация: 11.11.2026. https://alignment.anthropic.com/2026/worse-together/ 8. OpenAI — activation classifiers: проверка внутренних сигналов и её ограничения. Публикация: 02.11.2026. https://alignment.openai.com/training-activation-classifiers/ 9. OpenAI — уровни мониторинга, расследования и реакции. Публикация: 29.10.2026. https://alignment.openai.com/how-we-detect-frontier-model-misalignment/ 10. Apollo Research — шесть исследователей, четыре месяца, границы объявленного пилота. Публикация: 16.11.2026; это ещё не итоговое заключение. https://www.apolloresearch.ai/blog/pilot-towards-embedded-evaluations 11. OpenAI — программа embedded assessments и условия независимых проверок. Публикация: 16.11.2026. https://openai.com/index/our-first-phase-of-embedded-assessments/ 12. Microsoft Research — Lazare, veni foras. Происхождение изменённой модели и исследование с помощью ИИ-агентов. Публикация: 10.11.2026. https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/ 🧰 Полезное: как посмотреть разрешения подключённых приложений в ChatGPT — официальная справка: https://help.openai.com/en/articles/20001495-managing-app-permissions-in-chatgpt Памятка из выпуска: разделяй чтение, изменение и отправку; выдавай доступ под конкретную задачу. 🎙 Озвучка — синтетический голос ElevenLabs. Анимационные схемы, реконструкции и бытовые примеры помогают объяснить события; они не являются видеозаписями самих инцидентов. Факты и ограничения — в источниках выше. Подписывайся на eddieworld: необычные истории об ИИ с проверкой фактов. #ИИ #Нейросети #AIAgents ⏱ Главы 00:00 Задача без существующих ответов 02:51 Копия ещё не изоляция 04:34 Запрет, которого не было 06:23 Семь нейронов меняют поведение 09:06 Заказ раньше прочитанного сообщения 11:01 Как замечают опасный переход 12:10 Кто проверяет сами лаборатории 13:18 Три двери для агента 🎵 Музыка: «AI and Bias» (Treblo). 🔇 Хочешь смотреть без фоновой музыки? Открой настройки плеера → «Звуковая дорожка» → «Русский (латиница)». Там та же озвучка, только без музыки. Поддержать EDDIEWORLD: Tips: https://tips.tips/000492182 Boosty: https://boosty.to/eddieworldai YouTube: https://youtu.be/_POh6c90F8U

Название:

ИИ пытался взломать сайт. Ответов не существовало