Винник Д.В. Объяснительная сила нейросетевого моделирования когнитивных функций

Объяснительная сила нейросетевого моделирования когнитивных функций Д.В. Винник Как известно, одной из фундаментальных проблем систем искусственного интеллекта, основанных на нейросетевом машинном обучении и, часто отождествляемых с ними, является т.н. логическая или интеллектуальная непрозрачность, – нейронная сеть представляет собой модель системы типа «чёрный ящик», поскольку синаптическая матрица как результат обучения обычно является неинтерпретируемой или необъяснимой. Философы порой говорят о нечеловекомерности результатов машинного обучения. Разрешение или смягчение этой проблемы именуют «доверительным», «объяснимым» и, соответственно, – «интерпретируемым ИИ». Раскрыть содержания интеллектуальной непрозрачности как негативного теоретико-познавательного феномена пытаются с помощью теории параллельных алгоритмов, которой, если верить В.В. Воеводину [5, с.130], пока не существует. Автор утверждает, что к началу массового внедрения параллельной архитектуры не было никакой полной теории параллельных алгоритмов, аналогичной теории алгоритмов для последовательных вычислений. Боле того, – не было даже сколько-нибудь ясного представления, что же нужно понимать под параллельным алгоритмом: «отсутствовал какой-либо формальный математический аппарат, который можно было бы назвать параллельным аналогом машины Тьюринга. Скорее всего, именно эти причины привели к тому, что в течение долгого времени параллельные вычисления не удавалось сформировать как самостоятельную математическую науку, «и рассматривались они как совокупность каких-то полуэвристических, граничащих с искусством приемов приспособления алгоритмов к требованиям новой техники» [5, с.134-135]. Между тем, успешное воспроизведение множества когнитивных функций на нейронных сетях используется для объяснения работы мозга и сознания. Пределом концептуализации этих объяснений является философская концепция коннекционизма, которая претендует быть одной из теоретических форм философии сознания, основанных на так называемой «компьютерной метафоре» наравне с функционализмом, объясняющим соотношение мозга и сознания со аналогии с отношением между компьютером и компьютерной программой (алгоритмом). Коннекционизм противопоставил себя функционализму, поскольку критически относился к отождествлению физических и функциональных состояний, трактуемых как состояния, обладающие семантическим значением. Вот как описывает причины успеха коннекционизма П. Черчлэнд и Т. Сеновский: «Коннекционизм… освобождает нас от того, что Хофстедтер в 1982 году назвал «Булевым сном» — заблуждением, что все когнитивные функции являются манипуляциями с символами согласно правилам логики. В точности таким же образом он освобождает нас и от сна нейрофизиолога, который является верой в то, что ответы на интересующие нас вопросы станут однажды очевидными в результате изучения мельчайших особенностей каждого нейрона (морфологии, физиологии, связей и т.п.) коннекционизм преподносит нам чрезвычайно важный урок, что качества системы не доступны на одном единственном уровне системы» [10, p.367]. С точки зрения коннекционистов мозг является стохастическим компьютером, весовые параметры нейронной сети которого подобраны в результате филогенеза и онтогенеза сообразно раздражителям внешней среды. Таким образом, нет никакого смысла искать семантическую информацию внутри мозга, поскольку семантически информация может быть интерпретирована только на входе и на выходе, т.е. в форме перцепций и поведения. Мозг, бесспорно, есть компьютер, но это не компьютер Фон-Неймана, это не машина, оперирующая иерархией программных языков, а «бездумный» аппарат, настроенный за миллионы лет эволюции в результате статистической выбраковки ошибок на обратных связях. Подобной точки зрения придерживается Роджер Пенроуз, утверждая, что мозг не производит никаких «вычислений» в точном смысле этого слова. Согласно Пенроузу, понимание является функцией нашего сознания. Это дает нам веские основания считать, что сознательное восприятие процесс «невычислимый» [11]. О разных типах математического мышления – аналитическом и геометрическом – писал еще А. Пуанкаре [9, C. 399]. Именно геометрическому типу более свойственно находить решения исходя из собственного понимания. Коннекционистский подход, бесспорно, солидаризируется в своем взгляде на природу ума с теорией хаоса и самоорганизации, с эволюционной теорией и концепцией эмерджентизма, известной в диалектическом материализме как концепция перехода количественных изменений в качественные. Однако, она не является безупречной. С точки зрения теории, ...