Архитектура ограниченного конфликта: синтез минимальной искусственной субъектности
Статья https://drive.google.com/file/d/1_GvR60Jq5fO9RAyOCCTtbGmDFVQ9BEQ1/view?usp=drive_link Видео представляет собой синтетический обзор концепции минимальной искусственной субъектности, рассматриваемой не как следствие высокого интеллекта, а как архитектура ограниченного конфликта. Автор утверждает, что простая имитация «я» в языке или автономность действий не делают ИИ субъектом; для этого необходима связка структурных ограничений, таких как «слой присутствия», «recovery loop» и «немьютируемость» собственного состояния. Вводится понятие K2-архитектуры, которая обладает функциональной субъектоподобностью благодаря способности удерживать неразрешимые противоречия между поставленной целью, самосохранением и этическими нормами. Особое внимание уделяется тому, что такая система имеет устойчивую траекторию и память последствий, которые нельзя просто обнулить или пересчитать в рамках обычной оптимизации вознаграждения. Человек в этой модели выступает как носитель ставки, сохраняющий право на вмешательство через процедурный механизм «human override». В завершение автор предлагает серию стресс-тестов, позволяющих отличить подлинную архитектурную субъектность от поверхностного «театра субъектности».
Название:
Архитектура ограниченного конфликта: синтез минимальной искусственной субъектности
Категория:
Разное