Содержание к диссертации
Введение
1. Введение 3
2. Основы когнитивистики
2.1. Понятие когнитивистики 19
2.2. Вычислительно-репрезентативная модель строения разума 34
2.3. Взаимоотношения философии и когнитивистики 45
3. Этика и когнитивистика 55
3.1. Когнитивный подход в этике 55
3.2. Понятия свободы и детерминизма 64
3.3. Свобода в экспериментальной нейроэтике 80
3.4. Компатибилизм Д. Деннета 91
3.5. Связь сознания и тела в когнитивных исследованиях: теория Д. Серла 99
3.6. Основные черты современного когнитивного подхода к этическим проблемам 110
4. Этические аспекты искусственного интеллекта 128
4.1. Основные понятия и историческая справка 128
4.2. «Могут ли машины мыслить?» Алана Тьюринга 135
4.3. Современное понимание и критика теории А.Тьюринга 145
4.4. Современный когнитивный взгляд на философские основания ИИ 153
4.5. Открытое письмо о разработке ИИ 177
4.6. Проблемы морали в искусственном интеллекте
5. Заключение 197
6. Список литературы 201
- Вычислительно-репрезентативная модель строения разума
- Взаимоотношения философии и когнитивистики
- Свобода в экспериментальной нейроэтике
- Современное понимание и критика теории А.Тьюринга
Вычислительно-репрезентативная модель строения разума
Методологическая основа диссертации. При решении задач диссертационного исследования использовались следующие методологические приемы: метод сравнительного анализа, логико смысловой подход к анализу текста. Принцип объективности способствовал непредвзятой оценке изучаемых источников.
Положения, выносимые на защиту.
1. Концепция строения разума, определяющего моральное поведение человека, в когнитивизме оказывается непоследовательной. Следуя теоретико-методологическим традициям естественнонаучным традициям изучения поведения, прежде всего, бихевиоризма, она предполагает ограничивать исследование наблюдаемыми феноменами. При этом когнитивизм с необходимостью признает некоторые ненаблюдаемые явления, например, само существование сознания.
2. Философия сознания, в рамках которой проводятся этические исследования и которая, по утверждению когнитивистов, является важной составляющей когнитивистики, фактически оказывается редуцируемой к другим наукам, входящим в когнитивистику, прежде всего к психологии, нейронауке и лингвистике.
3. В области этики стремление к объективизации феноменов, связанных со свободой, делает этическую позицию когнитивистов детерминистической в физикалистско-натуралистическом понимании, в то время как интуитивная ценность свободы заставляет их искать обходные пути для признания свободы воли и обоснования компатибилизма.
4. Попытка отказа от философской базы и стремление дать ответы на фундаментальные морально-философские вопросы исключительно на экспериментальных основаниях делают эти исследования легким объектом для критики с позиции этики. При этом, многие идеи, которые позиционируются когнитивистами как новые, уже нашли отражение в истории философии и этики.
5. Предполагается, что одним из ключевых свойств «сильного искусственного интеллекта» является наличие у него возможных элементов морали. Проблема построения «машинной морали» заключается, во-первых, в рассмотрении ее когнитивистами только с физикалистско натуралистической точки зрения, то есть без учета ее сущностных свойств.
Во-вторых, проектировщики ИИ пытаются разработать одновременно и «машинный разум», аналогичный человеческому, и полезную для человека «машинную мораль», что является противоречием, поскольку свобода и сознательность человеческого разума не совместима с идеей изначальной пруденциальности в расчетливо-прагматическом смысле. Структура работы. В первой главе «Основы когнитивистики» рассмотрен вопрос, что представляет собой когнитивистика, как целостная наука или комплекс наук: чем занимаются входящие в нее разделы, что привело к ее появлению, есть ли у нее единое понимание разума и какую методологию используют ее ученые для доказательства своих гипотез. Для выполнения этой задачи была проанализирована работа Пола Тагарда (Paul Thagard), которая является признанным теоретико-методологическим введением в когнитивистику, раскрывает суть вычислительно репрезентативного подхода к разуму и наиболее полно отражает современные тенденции в когнитивистике. Также были выделены черты и области, как объединяющие философию и когнитивистику, так и разделяющие их, основные позиции относительно их видения мира в целом и разума в частности. Основой для выполнения этой задачи послужило детальное и последовательное «Оксфордское руководство по философии когнитивной науки» (The Oxford Handbook of Philosophy of Cognitive Science).
В следующей главе «Этика и когнитивистика» мы перейдем к обзору именно этической проблематики, которую затрагивают ученые– когнитивисты. В первую очередь рассмотрим основные черты когнитивизма как этического подхода. Максимов Леонид Владимирович, доктор философских наук, профессор, автор многих работ по аналитической этике, в своих статьях проводит анализ когнитивизма и нонкогнитивизма, которому последуем и мы в этой главе.
Затем был проанализирован наиболее яркий и значимый для этики пример этического рассуждения в когнитивистике – вопрос свободы и детерминизма, поскольку свобода является залогом морали, то есть обоснованием ее существования. В первую очередь мы уделили внимание самому понятию свободы, чтобы увидеть, какие варианты развития изысканий на эту тему возможны. Всеобъемлющая и последовательная работа Ларса Свендсена «Философия свободы» ляжет в основу этой главы, чтобы осветить основные дискуссии, разворачивающиеся вокруг данной темы.
В качестве представителей когнитивизма рассмотрим идеи Б. Либета и Д.-Д. Хайнеса с их нейроэтическими экспериментами со свободой воли. На результаты их исследований ссылаются все современные авторы, затрагивающие вопрос свободы воли, так как их изыскания являются прекрасным примером для нейроэтики.
В следующем параграфе «Компатибилизм Д. Деннета» мы перейдем к другой распространенной в когнитивных исследованиях концепции, концепции так называемого «мягкого детерминизма» или компатибилизма. Сторонником этого направления является известный философ сознания Дэниел Деннет. Ссылки на его труды можно найти практически у каждого ученого, который хоть как-то касается темы философии сознания. В своих работах он делает обзор разных видов свободы: с нейроэтической точки зрения, генетической и психоаналитической.
Закончим мы рассмотрение этих теорий анализом работ Джона Серла, который в своих книгах пытается проанализировать основные тенденции в современной когнитивистике и критикует своих коллег за применение физикалистского материализма как аксиоматического основания всех их философских изысканий. В конце этой главы путем анализа и сравнения мы постараемся выделить в когнитивных теориях общие для этики когнитивистики черты и тенденции.
В последней главе «Этические аспекты искусственного интеллекта» мы углубимся в отдельную область когнитивистики – искусственный интеллект (ИИ)1.
Для когнитивистики эта область чрезвычайно важна, ведь в ней аккумулируются результаты других наук для воспроизведения их в машинном разуме. Сначала мы определили, что подразумевается под термином «искусственный интеллект», рассмотрели историю его возникновения, указали причины, по которым его изучение с этической точки зрения важно.
Взаимоотношения философии и когнитивистики
В этом параграфе мы обсудим, каковы отношения философии и когнитивистики, каковы их области пересечения, а в чем их взгляды парадигмально и методологически расходятся. Продолжая предыдущую главу, начнем с классификации, которую дает Пол Тагард. Можно выделить три сферы взаимоотношений философии и когнитивистики: во-первых, психологические, компьютерные, нейрофизиологические результаты в перспективе могут быть очень важны в качестве фактологической базы для решения проблем логики, эпистемологии, этики, гносеологии и т.д. Во-вторых, философская критика играет существенную роль для установки целей когнитивистики, для указания общего направления ее движения. И, в-третьих, «когнитивистику можно рассматривать как объект исследования в философии науки, рефлектируя над методологией и предположениями этой области»1.
Философские концепции тесно связаны с когнитивистикой, можно даже сказать, что они не могут существовать друг без друга, говорит Тагард, ведь теоретические предположения о человеческом разуме плавно перетекают в экспериментальное поле когнитивистики, а результаты этих исследований приходят обратно к философии и переосмысляются ею. «Философия также имеет дело с вопросами общего характера, такими как отношения разума и тела и с такими методологическими вопросами как природа объяснений, найденных когнитивистикой»2.
Что же касается отношений именно этики и когнитивистики, по мнению Тагарда, «в добавление к дескриптивным вопросам о том, как люди думают, философия задаётся нормативными вопросами о том, как они должны думать. Вместе с теоретической целью понимания человеческого мышления у когнитивистики может быть практическая цель его улучшения, что требует нормативной рефлексии о том, каким мы хотим видеть мышление»3. В то же время «этика может получить выгоду, используя гораздо большее понимание психологии морального мышления, которое несет в себе такой нравственный вопрос как обсуждение, касающееся хорошего и плохого»4.
Для более детального рассмотрения этой связи обратимся к введению книги под названием «Оксфордское руководство по философии когнитивной науки» (The Oxford Handbook of Philosophy of Cognitive Science). Она последовательно опишет те черты отношений, которые наметил П. Тагард. Взаимоотношения философии и когнитивистики проходят в нескольких плоскостях. Во-первых, это те фундаментальные философские вопросы, которые являются также и предметами рассмотрения философского раздела когнитивистики - философии сознания. Во-вторых, это основания самой когнитивистики, ответ на вопрос, что такое разум, каковы взаимоотношения дисциплин внутри нее и какая из них более значимая. В-третьих, философия помогает когнитивистике в определении ее базовых понятий. В-четвертых - это философская рефлексия об эмпирических ментальных феноменах: «когнитивные науки изучают структуру субъективного опыта человека не в традиционной для философии абстрактной форме, а в практическом аспекте»1. И наконец, фундаментальные философские вопросы, но не связанные с разумом. Многие из этих областей соприкасаются и пересекаются, но «все же полезно в первую очередь отделить их друг от друга и посмотреть на каждую из них по очереди»2.
Начнем с рассмотрения первой области соприкосновения философии и когнитивистики — с фундаментальных философских вопросов, связанных с разумом.
Описывая место философии сознания, как философской составляющей когнитивистики, вспомним вопрос, который долгое время считался основным вопросом философии: что первично, бытие или сознание? И, несмотря на то, что сами когнитивисты отрицают саму сложившуюся философско-метафизическую систему, они вписываются в нее, поскольку ответ на этот вопрос для них очевиден: это материя. Натуралистический материализм для когнитивистов является аксиоматически верным, в качестве примера для противопоставления они рассматривают только дуализм, в то время как любое упоминание о первенстве духа над материей отвергается как несостоятельное и антинаучное. Это приводит к замкнутости идей, с которыми работают философы сознания. Любое утверждение среди них о парадигмальном прорыве, если смотреть на него со стороны основного вопроса философии, таковым не является, ведь оно все равно остается в узкой клетке натуралистического материализма.
Первая из проблем, которую можно обозначить как момент соприкосновения философии и когнитивистики — проблема разума (mind) и тела. Как возможно существование идеальных свойств разума (сознания) в материальном теле и материальном мире? «Как возможно, что мы действуем свободно, если дано, что у каждого события есть причина, а причинность делает свободу действий невозможной?»1. «Как в мире могут существовать ценности, если дано, что мир полностью состоит из нейтральных по отношению к ценностям фактов?»2. Одним из объяснений можно считать теорию ментальных репрезентаций, описанную выше, хотя она и не лишена моментов для критики. В других частях данной диссертации этому вопросу уделяется должное внимание, поэтому в данном параграфе лишь обозначим эту проблему как одну из ключевых для когнитивистики.
Свобода в экспериментальной нейроэтике
И.Кант видит в соотношении необходимости и свободы фундаментальную проблему, формулируя ее в качестве одной из антиномий чистого разума в области рациональной космологии: «Тезис. Причинность по законам природы есть не единственная причинность, из которой можно вывести все явления в мире. Для объяснения явлений необходимо еще допустить свободную причинность… Антитезис. Нет никакой свободы, все совершается в мире только по законам природы»2. Но если в рамках «чистого разума» И. Кант мог остановиться на неразрешимости указанной антиномии, то в рамках деятельности «практического разума» (моральной философии) он был вынужден допустить существование свободы. Показательно в этом смысле название одного из параграфов работы «Основы метафизики нравственности»: «Свободу длжно предполагать как свойство воли всех разумных существ»3. Иными словами: доказать существование свободы при помощи науки, основанной на опыте, нельзя, но нужно признать ее в силу существования нравственности.
Методологически когнитивистика опирается на традицию бихевиоризма, разработанного Б. Скиннером (B. Skinner). Согласно бихевиористической точке зрения, только внешнее поведение может быть научно исследовано и только оно принимается в расчет при оценке психологического поведения человека. Его мотивы и внутренние переживания остаются «за кадром». Таким же образом исследуется и оценивается моральное поведение. С точки зрения этого подхода, этические ценности появляются только в момент их проявления в наблюдаемом поведении. Причины такого поведения ищутся тоже только в эмпирически проверяемых факторах, например, в фактах, которые можно зафиксировать в среде взросления человека, в поведении его родителей, в состоянии здоровья, в событиях в его жизни и т.д. Поскольку при таком подходе не остается места для внутреннего мира человека, в том числе и для его свободы, ведь все поступки обусловлены какими-то внешними причинами из детства и окружения, то такой подход оказывается последовательно детерминистическим.
Но мы должны, говорит Свендсен, различать детерминизм как научный принцип, без которого невозможна ни одна научная теория, от детерминизма как онтологического принципа, применяемого к человеку и миру в целом.
Есть несколько видов детерминизма. Например, генетический детерминизм. Для него характерно утверждение, что причиной всех действий человека являются его гены. «Я считаю, что причина, по которой многих так тревожит генетический детерминизм, заключается в том, что другие формы детерминизма берут за точку отсчета нечто внешнее по отношению к нам самим, внешние причины, тогда как генетический детерминизм затрагивает само наше существо и лишает нас какой бы то ни было самостоятельности, так что для свободы воли просто не остается места»1. Несмотря на то, что гены являются важной частью появления того или иного свойства человека, они остаются частью, а не всеобъемлющим целым, приводит контраргумент Свендсен. Существует также психологический детерминизм. В нем человек не свободен, поскольку его сковывают сила привычки и детский опыт. Этот вид детерминизма мы уже частично обсудили выше. Вид детерминизма, который мы будем рассматривать наиболее подробно в данной диссертации — нейрологический детерминизм.
По мере развития когнитивистики важную роль начала играть нейронаука (воплотившаяся в том числе в нейрофилософии и нейроэтике), целью которой в данном комплексе наук стало исследование мозга на физиологическом уровне, чтобы в конечном итоге получить полную картину о связи психики и биологической составляющей разума. Когнитивисты этой области полагают, что у поведения человека есть более глубокие причины, нежели только психические. Такими причинами являются нейроны и нейронные сети, которые передают импульс для того, чтобы человек совершил те или иные действия. Иными словами, определенная активность нейронов предшествует и предопределяет поступки человека.
Таким образом, общей тенденцией в когнитивистике является отрицание свободы выбора человека: она не существует, и представления о ней являются лишь иллюзией. Но Свендсен полагает, что поскольку мы так и не научились предсказывать события с большой точностью, нельзя сказать, что в пользу детерминизма есть весомые аргументы.
Сторонники же противоположного направления, либертарианизма, говорят, что человек абсолютно свободен и не детерминирован. И, несмотря на то, что у человеческих действий есть причины, человек действует только тогда, когда нет причин, предопределяющих его действия.
В качестве контраргумента можно утверждать, что, если человек может с равной вероятностью выбрать как один вариант, так и другой, его выбор будет иррационален, но Свендсен с этим не согласен. Он полагает, что наличие одинаково весомых причин и одинаковое отсутствие причин не делает выбор иррациональным. Но тут возникает следующая проблема: как аргументировать обоснованность выбора того или другого варианта в противовес чистой случайности индетерминизма. Для этого сторонники либертарианизма вводят «понятие так называемой каузальности деятеля, которое подразумевает, что действующие лица сами могут быть причиной своих действий, так что их нельзя редуцировать до простого следствия суммы предшествующих причин и обстоятельств»1.
Эта позиция тоже не свободна от недостатков. Она не содержит описания тех предпосылок, которые воздействуют на человека. Без рационального объяснения его поступков, ему невозможно вменить ответственность, а, следовательно, и наделить его настоящей моральной свободой.
«Свобода не требует от нас способности изменять причины и предпосылки к действию, не требует она и идти против законов природы, от нас требуется лишь способность представить себе и обдумать возможные альтернативы и выбрать среди них ту, которую мы воплотим в жизнь»2. Но рациональные основания не являются тождественными причинам. Свендсен полагает, что основания нормативны, в то время как причины — нет. Эта логическая проблема решается, если мы исходим не из причин действия, а его цели. Именно цель отличает поведение человека от единичного действия, именно она и является нормативным рациональным основанием, являющимся сильным аргументом в пользу либертарианизма.
«Поскольку даже чувство свободы возникает при условии веры в детерминизм, то, похоже, если в лабиринте свободы вообще есть выход, путь к нему проходит не через либертарианство, а через компатибилизм»3, говорит один из российских философов, Вадим Валерьевич Васильев.
Современное понимание и критика теории А.Тьюринга
В этом параграфе мы обобщим результаты анализа, проведенного в предыдущих частях и выделим основные черты этических исследований в когнитивистике, а также приведем несколько иллюстративных исследований.
Во-первых, обобщая характеристики этики в когнитивистике, в первую очередь, вслед за Серлом отметим четко прослеживаемую тенденцию к материализму в его натуралистической интерпретации, для которого когнитивисты не видят альтернативы. Выходит, что даже те ученые, которые замечают его ограниченность, из-за невнимания к философскому базису или из-за рамок, которые создает сама когнитивистика, как дисциплина, базирующаяся на методах естественных наук, не могут выйти за его пределы.
Это продиктовано когнитивизмом как общим этическим подходом. Утверждая абсолютную власть естественнонаучного метода, когнитивисты утверждают и аксиоматическую познаваемость и объективную доказуемость всех феноменов, в том числе и этических. Это приводит к неоправданной редукции, при которой теряется суть исследуемых явлений. Причиной этому является также и довольно заметный скептицизм, который философы сознания проявляют по отношению к традиционной философской проблематике, связанной с изучением субъективного, идеального, интуиции и т.д., то есть с теми феноменами, которые невозможно проверить эмпирическими методами.
Во-вторых, следуя за Серлом, также скажем, что проблема рациональности занимает важное место в когнитивистике. Интересным парадоксом кажется, что когнитивистика, как комплекс наук, стремящихся к объективизации и эмпирической доказуемости, делает рациональную аргументацию своим главным методологическим принципом, одновременно превращая ее в требование, что придает рациональности ценностно-нормативный характер, избежать которого в отношении всех изучаемых явлений как раз и стараются избежать когнитивисты. Кроме того, сторонники «классической модели» рациональности, в результате, ограничены узким верификационистским подходом, что приводит к отсечению многих других методологических возможностей для анализа, как, например, рассмотрение когнитивных феноменов с точки зрения их нередуцируемости к физиологическим явлениям.
В-третьих, также, говоря о свободе, мы видим уклон в сторону детерминизма, будь то жесткий детерминизм или мягкий (компатибилизм).
Поскольку, у людей есть переживание очевидности своей свободы, многие авторы делают оговорки в своих исследованиях, ищут лазейку для свободы. Именно по этой причине автору диссертации эксперименты Либета и Хайнеса кажутся столь удобными для приведения иллюстрации этой тенденции. Несмотря на то, что результаты их исследований можно трактовать как серьезное доказательство нейрологического детерминизма, они смогли оставить возможность «вето», которое накладывает сознание на уже готовый «выбор» нейронов.
В-четвертых, следующая особенность — тождественность таких понятий как рациональность, свобода и сознательность. Эта черта особенно заметна в работах Д. Деннета, где эти термины используются как синонимы. Только сознательное решение, принятое с учетом всех известных причин можно назвать свободным. И только рациональное решение является сознательным, ведь, если человек поступает, не исходя из рациональных причин, не взвесив все «за» и «против», он сумасшедший, а значит, он не может нести ответственность за свои поступки, не свободен.
В-пятых, тенденция к использованию разных философских терминов вперемешку с психологическими является еще одной характеристикой когнитивных исследований. Как мы увидели у Д. Деннета и А. Голдмана, терминология, кажущаяся очевидной (свобода, рациональность, причина и т.д.), по мнению этих авторов, не нуждается в определениях. «Дать определение — значит, огранить, а свобода есть то, что, по определению, нельзя ограничивать, а следовательно, мы не можем дать такого определения, не можем найти для свободы ни рода, ни вида».1 По этой причине они используются в нескольких значениях в одной и той же ветке аргументации, что приводит к методологической и логической путанице.
Это также приводит к тому, что исследование на стыке этики и психологии (лингвистики, нейронауки, информатики) становится не научным, а публицистическим, лишенным доказательной силы.
В-шестых, более того, заметен недостаток теоретической базы. Нельзя не отметить, что во всех работах в главах, посвященным философским основаниям когнитивистики, ученые ссылались на Рене Декарта (чаще всего только на него), как если бы он был единственным философом, и основавшим и развившим всю традицию западноевропейской философии. В то же время, анализ его работ также нельзя считать полноценным, поскольку глубокое понимание философии Декарта невозможно в отрыве от философского контекста в целом. Необходимо все же отметить, что автор диссертации не отрицает важность влияния Декарта на рассматриваемые этические проблемы, в частности, на проблему свободы и детерминизма. Его значимость отмечают и такие ученые как М.А. Секацкая