Можно Ли Запрограммировать Произвольность?

В чем различие человека и программы. Нейронные сети, которые и составляют сейчас практически всю область искусственного интеллекта, могут учитывать в принятии решения гораздо больше факторов, чем человек, делать это быстрее и в большинстве случаев более точно. Но программы действуют только так как их запрограммировали или обучили.

Они могут быть очень сложными, учитывать много факторов и действовать очень вариативно. Но все равно не могут заменить человека в принятии решений. Чем же отличается от такой программы человек? Здесь надо отметить 3 ключевых отличия, из которых вытекают все прочие:

1. Человек обладает картиной мира, которая позволяет ему по части информации дополнять картину такими данными, которые не прописаны в программе. Кроме того, картина мира структурно устроена так, что позволяет нам иметь хоть какое-то представление обо всем. Даже если это нечто круглое и светится в небе (НЛО). Обычно для этого строят онтологии, но онтологии не обладают такой полнотой, плохо учитывают многозначность понятий, их взаимное влияние и пока применимы только в строго ограниченных темах.
2. Человек обладает логикой, которая учитывает эту картину мира, что нами называется здравым смыслом или common sense. Любое утверждение обладает смыслом, и учитывает скрытые недекларированные знания. Несмотря на то, что законам логики много сот лет, никто до сих пор не знает, как функционирует обычная, не математическая, логика рассуждений. Мы по сути не знаем как запрограммировать даже обычные силлогизмы.
3. Произвольность. Программы не обладают произвольностью. Это пожалуй самое сложное из всех трех отличий. Что мы называем произвольностью? Возможность построить новое поведение, отличное от того, что мы выполняли при тех же обстоятелствах ранее, или построить поведение в новых, не встречавшихся ранее обстоятелствах. То есть по сути это создание на ходу новой программы поведения без проб и ошибок с учетом новых, в том числе внутренних, обстоятельств.

Произвольностью пока является неизведанным полем для исследователей. Генетические алгоритмы, способные породить новую программу поведения интеллектуальных агентов, не являются выходом, так как они порождают решение не логично, а путем «мутаций» и решение находится «случайно» в ходе отбора этих мутаций, то есть путем проб и ошибок. Человек находит решение сразу, выстраивая его логично. Человек может даже объяснить, почему выбрано такое решение. Генетический алгоритм не обладает аргументами.

Известно, что, чем выше животное на эволюционной лестнице, тем более произвольным может быть его поведение. И наибольшую произвольность проявляет именно у человека, так как человек обладает способностью принимать во внимание не только внешние обстоятельства и свои выученные навыки, но и скрытые обстоятельства – личные мотивы, сообщенные ранее сведения, итоги действия в схожих обстоятельствах. Это сильно увеличивает вариативность поведения человека, и, по моему мнению, к этому причастно именно сознание. Но об этом чуть позже.

Сознание и произвольность

Причем тут сознание? В психологии поведения известно, что привычные действия мы осуществляем автоматически, машинально, то есть без участия сознания. Это примечательный факт, означающий, что сознание причастно к созданию нового поведения, связано с ориентировочным поведением. Это также значит, что сознание подключается именно тогда, когда надо изменить привычный паттерн поведения, к примеру, отреагировать на новые запросы с учетом новых возможностей. Так же некоторые ученые, например, Докинз или Метцингер, указывали, что сознание как-то связано с наличием у людей образа себя, что модель мира включает и модель самого субъекта. Как тогда должна выглядеть сама система, которая бы обладала такой произвольностью? Какой структурой обладать, чтобы она могла построить новое поведение для решения задачи в соответствии с новыми обстоятельствами.

Для этого нам надо сначала вспомнить и уточнить некоторые известные факты. Все животные, обладающие нервной системой, так или иначе содержат в ней модель среды, интегрированной с арсеналом своих возможных действий в ней. То есть это не только модель среды как пишут некоторые ученые, а модель возможного поведения в той или иной ситуации. И одновременно это модель предсказания изменений в среде в ответ на какие-либо действия животного. Это не всегда учитывают когнитивные ученые, хотя на это прямо указывают открытые зеркальных нейронов премоторной коре, а также исследования активации нейронов макак, в ответ на восприятие банана у которых активируется не только области банана в зрительной и височной коре, но и руки в соматосенсорной, потому что модель банана непосредственно связана с рукой, так как обезьяне интересен только тот фрукт, что она может взять его и съесть. Мы просто забываем, что нервная система появилась не для отражения мира животными. Они не софисты, они просто хотят есть, поэтому их модель – это в большей степени модель поведения, а не отражения среды.

Такая модель уже обладает определенной степенью произвольности, которая выражается в вариативности поведения в схожих обстоятельствах. То есть у животных есть некоторый арсенал возможных действий, которые они могут осуществить в зависимости от ситуации. Это могут быть боле сложные временные паттерны (условно-рефлекторные), чем непосредственная реакция на события. Но все равно это не полностью произвольное поведение, что позволяет нам дрессировать животных, но не человека.

И здесь есть важное обстоятельство, которое нам надо учесть – чем более известные обстоятельства встретились, тем менее вариативно поведение, так как у мозга есть решение. И наоборот, чем обстоятельства новее, тем больше вариантов возможного поведения. И весь вопрос в их отборе и комбинации. Животные это делают, просто проявляя весь арсенал своих возможных действий, как показал в своих экспериментах еще Скинер.

Нельзя сказать, что произвольное поведение является полностью новым, оно состоит из ранее выученных паттернов поведения. Это их перекомбинация, инициируемая новыми обстоятельствами, не полностью совпадающими с теми обстоятельствами, на которые уже есть готовый паттерн. И в этом как раз есть точка разделения произвольного и машинального поведения.

Моделирование произвольности

Создание программы произвольного поведения, умеющей учитывать новые обстоятельства, позволило бы сделать универсальную «программы всего» (по аналогии с «теорией всего») хотя бы для определенного домена задач.

Чтобы могло сделать их поведение более произвольным, свободным? Проведенные мной эксперименты показали, что единственным выходом является наличие второй модели, которая моделирует первую и может ее менять, то есть действовать не со средой как первая, а с первой моделью, чтобы изменять ее.

Первая модель реагирует на обстоятельства среды. И если активированный ею паттерн оказался новым, вызывается вторая модель, которая научена искать решения в первой модели, распознавая все возможные варианты поведения в новой обстановке. Напомню, что в новой обстановке вариантов поведения активируется больше, поэтому вопрос именно в их отборе или комбинации. Это происходит потому, что в отличие от знакомой обстановки, в ответ на новые обстоятельства активируется не один паттерн поведения, а сразу несколько.

Каждый раз, когда мозг встречается с чем-то новым, он осуществляет не один, а два акта – распознавание ситуации в первой модели и распознавание уже осуществленных или возможных действий второй моделью. И вот в этой структуре проявляется много возможностей, схожих с сознанием.

1. Эта двухактная структура позволяет учитывать не только внешние, но и внутренние факторы – во второй модели могут запоминаться и распознаваться итоги предыдущего действия, отдаленные мотивы субъекта и т.п.
2. Такая система может строить новое поведение сразу, без долгого обучения, инициируемого средой согласно эволюционной теории. Например, вторая модель имеет возможность трансфера решений с одних подмоделей первой модели на другие ее части и много других возможностей метамодели.
3. Отличительным свойством сознания является наличие знание о своем действии, или автобиографической памяти, как показано в статье (1). Предложенная двухактная структура как раз обладает такой способностью – вторая модель может хранить данные о действиях первой (ни одна модель не может хранить данные о собственных действиях, так как для этого она должна содержать непротиворечивые модели своих действий, а не реакций среды).

Но как именно происходит построение нового поведения в двухактной структуре сознания? У нас в распоряжении нет мозга и даже его правдоподобной модели. Мы стали экспериментировать с глагольными фреймами как прототипами моделей, которые содержатся в нашем мозге. Фрейм представляет из себя набор вариантов актантов глагола для описания ситуации, а комбинация фреймов может служить для описания сложного поведения. Фреймы описания ситуаций – это фреймы первой модели, фрейм описания своих действий в ней – это фрейм второй модели с глаголами личных действий. У нас часто они смешаны, потому что даже одно предложение – это смесь нескольких актов распознания и действия (речевого акта). А само построение длинных речевых выражений – лучший пример произвольного поведения.

Когда первая модель системы распознает новый паттерн, на который у нее отсутствует запрограммированный ответ, она вызывает вторую модель. Вторая модель собирает активированные фреймы первой и ищет более короткий путь в графе связных фреймов, который наилучшим способом как бы «замкнет» паттерны новой ситуации комбинацией фреймов. Это достаточно сложная операция и мы еще не достигли в этом результата, претендующего на звание «программы всего», но первые успехи обнадеживают.

Экспериментальные исследования сознания путем моделирования и сравнения программных решений с данными психологии дает интересный материал для дальнейших исследований и позволяет проверить некоторые плохо проверяемые в экспериментах над людьми гипотезы. Это можно назвать моделирующими экспериментами. И это только первый результат в этом направлении исследования. Источник