gryaznov_a_f_red_analiticheskaya_filosofiya_stanovlenie_i_ra

Онтологическая проблема сознания

371

или указываемых этим термином. Наше исследование может теперь быть очерчено использованием данного нового термина. Мы можем обнаружить, что никакие термины ментальных сущностей не могут быть нереференциальными, и в таком случае мы снова возвращаемся

кстарым альтернативам: либо мысли тождественны физическим объ­ ектам, либо нет, но тогда мы должны принять некоторую разновид­ ность дуализма. Либо мы можем обнаружить, что весь словарь созна­ ния уступает нереференциальности. Это успокоит все наши тревоги относительно онтологических преувеличений и оставит нейрофизио­ лога в такой же несложной позиции, как и нашего исследователя го­ лоса. Или же мы можем обнаружить, что ментальный словарь пред­ ставляет собой смешанную вещь. В этом случае решающим станет во­ прос, относятся ли референциальные термины в ментальном словаре

квещам тождественным или нетождественным с физическими веща­ ми. Таким способом мы будем в состоянии сопоставить теорию, кото­ рая была последовательно физикалистской, только с теорией тожде­ ства относительно некоторых ментальных терминов, а именно терми­ нов, которые относятся к вещам, которые действительно существуют.

Как только мы решим, что лучше всего рассматривать некоторый термин как нереференциальный, мы вставляем его в соответствующие контексты, как это осуществлялось ранее с термином «ради» и в не­ сводимой идиоме «ради кого (чего)». Контексты сохраняют свое зна­ чение, но не подвержены дальнейшему логическому анализу; их части становятся подобными «столу» (table) в слове «питьевой» (potable). Главное преимущество объединения состоит в достижении онтологи­ ческой абсолютизации, но за это приходится платить. Например, если бы рассматривали проблему голоса серьезно и провели тщательный и строгий анализ идиом «голоса», мы должны были бы принять, что «Джон напряг свой голос» не следует истолковывать как случай фор­ мулы «х напряг у «, ибо теперь «напряг-свой-голос» оказывается объ­ единенным контекстом, не доступным дальнейшему анализу. Это оз­ начает, что мы больше не будем иметь логического размещения для кажущегося обоснованным вывода:

Любой, кто напрягал что-то, делал что-то чрезмерное, и Джон напрягал свой голос. Следовательно, Джон делал, что-то чрезмерное.

Но мы обязаны будем заплатить за это цену, если не должны да­ вать разрешение на вывод:

Единственная вещь, которую напрягал Джон, были его голосовые связки. Джон напрягал свой голос, следовательно, голос Джона тож­ дествен с его голосовыми связками.

Еще более странно, когда объединение часто расширяется за рам­ ки нескольких слов влево и вправо от нашего нереференциального термина. Например, объединение должно превзойти любое место-

372	Дэниел Деннет

именное перекрестное соотнесение к голосам. Наиболее неправдопо­ добно, например, целое предложение:

« Первая вещь относительно его голоса, которая поразила меня, оказалась тем, что я слышал его прежде», которое становится недос­ тупным логическому или семантическому анализу. Это заключение может показаться абсурдным, если мы будем размышлять только о том, что запрещается и что не запрещается объединением. Очевидно, объединение не запрещает анализ подобно диктатору, запрещающему свободные собрания. Оно просто запрещает некоторые виды интерп­ ретаций, которые применяются к результатам анализа. Вполне воз­ можно было бы предложить «семантику» для идиом «голоса» так же, как и «логику». Но при этом должна соблюдаться единственная вещь — объединение будет запрещать любую попытку трактовать эту «семан­ тику» как расширение семантики нашего референциального словаря терминами вроде «голоса» как разновидности вещей в дополнение к разновидности вещей, обозначенных референциальными терминами. Преимущество такой точки зрения состоит в том, что она опирается на существующие вещи и референциальные термины, «голоса» же всегда должны быть нереференциальными. Только таким путем мож­ но отвергнуть альтернативу тождества или нетождества. При условии сохранения такого обособления, однако, не существует каких-либо границ для разновидностей и числа систем, которые могут быть по­ строены для того, чтобы иметь дело с частями объединенных выраже­ ний, и можно даже ожидать, что любая открываемая система будет виртуально параллельной семантике и логике на референциальной стороне произведенного разделения 16. Объединение тогда осуществ-

16 Карел Ламберт пытался убедить меня, что адекватный логический язык, который я требую для сохранения логической нейтральности, будет двухкванторной логикой, такой, которая разработана Леонардом, Ван Фраасеном и им самим (Leonard H. S. Essences, Attributes and Predicates / /

Proceedings	and	Addresses of the American Philosophical Association,
v. XXXVII,	1964, pp. 25—51; Frassen B. van. Meaning Relations among
Predicates / /	Nous, I, 1967, pp. 161-79; Meyer R. K., Lambert K. Universally
Free Logics	and	Standart Quantification Theory / / Journal of Symbolic

Logic, v. XXXIII, № 1, 1968, pp. 8-26; Frassen B. van, Lambert K. Quantifi­ ers, Meaning Relations and Modality / / Philosophical Developments in Nonclassical Logic; Modality, Existence and related areas. Lambert K., ed. (fortcomming)). Эти языки были разработаны, чтобы иметь дело с несколько от­ личными проблемами, в частности с «возможными объектами», так удоб­ ными для модальных логиков, и их адаптация к моей позиции потребует объединения голосов, мыслей и сознания с кентаврами и грифонами (ес­ ли не с круглыми квадратами), а это, очевидно, искажает мой взгляд. Бу­ дет ли это в конечном счете логически или философски нежелательным искажением, пока неясно мне.

Онтологическая проблема сознания

373

ляется с некоторой точки зрения. Оно делает контекст недоступным для анализа только под определенным углом зрения. Эта недоступ­ ность не есть лишь помеха. Она обеспечивает также определенную степень свободы, освобождая аналитика от нахождения всех наших логических и семантических правил, выполняющихся вдали от границ объединения.

Еще не решен вопрос, являются ли все или любые термины, обо­ значающие наши ментальные сущности нереференциальными, но мы лишь решили их исследовать, чтобы увидеть это. В этих целях я предлагаю применить тактику, которую можно будет назвать пробным объединением. Мы не хотим рассматривать никаких онтологических предпосылок с той целью, чтобы представить термины ментальных объектов либо референциальными, либо нереференциальными, и это может быть осуществлено путем истолкования всех предложений, со­ держащих термины для ментальных сущностей, как пробно объеди­ ненных, подверженных дальнейшему исследованию, которое приведет нас к подтверждению объединения или же к освобождению от него. Мы не предполагаем с самого начала, что некоторые виды вопросов имеют ответы, что определенные следствия имеют место, или сущест­ вует соответствие между именами физических и ментальных объек­ тов. То, с чего мы начинаем тогда, будут предложения, содержащие слова для ментальных сущностей, которые должны быть исследованы. Мы можем сказать, что эти предложения существуют «в ментальном языке», и мы признаем, что они являются осмысленными и, следова­ тельно, истинными или ложными. В известной мере задачей рассмот­ рения тогда будет установление того, станут ли части предложений, которые должны быть построены, удовлетворять нашей стандартной семантике — ослабят ли они или нет объединение 17.

Более широкий вопрос, включающий прежний как часть, состоит в том, могут ли предложения, рассматриваемые в целом или анализи­ руемые, коррелировать в объяснении с предложениями из референциальной области одних лишь физических наук? Нашей моделью здесь служит пример голоса. Объяснение вокальных явлений может не со­ держать никакой референции к голосам. Может ли объяснение мен­ тальных явлений подобным же образом избежать референции к соз­ нанию, мысли и боли? Рассматривая предложения в целом как наши первоначальные единицы, мы способны избежать принятия одной пред­ посылки, которая неизбежно приводит к маятнику старомодных аль-

Другими словами, мы начинаем с помощью истолкования предло­ жений в форме ρ или q пропозиционального исчисления; тогда нам при­ ходится сталкиваться с вопросом, могут ли их части также браться под кванторами исчисления предикатов (рассматривается, в стиле Куайна, как онтологическое обязательство).

374	Дэниел Деннет

тернатив, — предпосылки, что «сознание», «мысль» и «боль» являются референциальными, другими словами, что существуют сознание и ментальные явления, с одной стороны, и тела и физические явления, с другой.

Конечно, не только любое отображение предложений на предло­ жения будет представлять объяснительную корреляцию. Можно было бы объединить каждое истинное предложение ментального языка с предложением, характеризующим настолько исчерпывающе, насколь­ ко это возможно, физическое состояние лица или лиц в рассматри­ ваемом вопросе, но это не объяснило бы ничего. По крайней мере, предложения, связанные с ментальным языком, должны описывать условия, меняющиеся систематическим образом относительно разли­ чий в ментальном языке. Однако степень свободы, которую мы полу­ чаем путем объединения предложений ментального языка, позволит нам избежать абсурдного требования грубой теории тождества. Как указывает Патнэм, предположение, что частный ментальный опыт, например, мышление об Испании, тождествен с частным физическим состоянием, требует, чтобы все существа, действительно размышляю­ щие об Испании, должны находиться в определенном физическом со­ стоянии, которое исключает, как наиболее неправдоподобную возмож­ ность, что существа с биохимией, отличной от нашей, или же с иной нервной системой могли думать об Испании 18.

18 Putnam H. Psychological Predicates / / Art, Mind and Religion / Ca­ piton H., Merrill Όη (eds.) Pittsburgh, 1967, pp. 37—48. Можно было бы ут­ верждать, что я был неправ в своем отношении к теоретикам тождества, и что Смарт и другие фактически использовали онтологическую точку зре­ ния, которую я выдвигал. Смарт, в конце концов, реагировал на возраже­ ние, что след образа не является мозговым процессом, отвечая: «Я не до­ казываю, что след образа есть мозговой процесс, но восприятие наличия следа образа есть такой процесс». («Sensations and Brain Processes». Пере­ работанный вариант в кн.: Chappel, op. cit., p. 168).

Можно было бы интерпретировать это как утверждение, что «след образа» не был референциальным атомом, а скорее «наличием следа об­ раза», то есть объединенной идиомой. Нейгел (op. cit., р. 341) идет даже дальше: «Вместо отождествления мыслей, ощущений, следов образов и т.

п.с мозговыми процессами я предлагаю отождествить наличие ощущений

уличности с ее телесным бытием в физическом состоянии или с испы­ тываемыми ею физическими процессами». Позиция Нейгела весьма близ­ ка к моей в том, что он просто рассматривает предложение ментального языка как целое, превращая его в соответсвующую герундиальную номинализацию и помещая затем рядом со знаком тождества, граничащим с также измененным предложением, обозначающим физическую сущность.

Но возражение Патнэма направлено и против более умеренных тож­ деств Нейгела. Нейгел предполагает, что корреляции должны быть слиш-

Онтологическая проблема сознания

375

Даже среди homo sapiens неправдоподобно настаивать, чтобы два из них, мыслящие об Испании, должны находиться в некотором одно­ значно физически описываемом состоянии.

Скорей, чем пытаться охарактеризовать абстрактным образом минимум требований для научного объяснения, попытаемся выявить, какие корреляции мы можем найти. Как только они будут установле­ ны, мы можем спросить, представляют ли они адекватное объяснение ментальных явлений. В наиболее общих терминах наша задача состо­ ит в том, чтобы обеспечить научное объяснение сходств и различий в тех случаях, благодаря которым предложения различных ментальных языков оказываются истинными или ложными Так, например, наша задача состоит не в том, чтобы отождествить мысль Тома об Испании с некоторым физическим состоянием его мозга, но точно определить те условия, при которых можно уверенно сказать, что все предложе­ ние «Том думает об Испании» истинно или ложно. Такой способ рас­ смотрения характеризует задачу нахождения объяснения сознания, которое объединено и согласуется с частью науки как целого, но избе­ гает, по крайней мере первоначально, обязательства находить среди вещей науки каких-либо референтов для терминов ментального сло­ варя. Это обязательство будет рассматриваться только в случае, если некоторые или все ментальные термины будут сопротивляться любым усилиям трактовать их как нереференциальные.

Первое препятствие, связанное с нашей попыткой достичь объяс­ нительных корреляций, представляет собой очень общий, но весьма мощный аргумент, сводящийся к тому, что те черты мира, благодаря которым определенные предложения ментального языка оказываются истинными или ложными, находятся за пределами области физиче­ ских наук и не описываются и не поддаются объяснению в рамках научной схемы. Если этот аргумент обоснован, тогда достигнутая на­ ми позиция непричастности в решении онтологических проблем, не будет иметь никакой пользы, ибо данный аргумент касается лишь от­ ношений между предложениями.

ком сильными, чтобы быть правдоподобными, Кроме того, не исчезает ли суть теории тождества, когда начинают истолковывать предложения в це­ лом в действительных ситуациях или положениях дел, если они потом объ­ являются тождественными с другими ситуациями или положениями дел?

Джон СЁРЛ

СОЗНАНИЕ, МОЗГ И ПРОГРАММЫ !

Какую психологическую и философскую значимость следует нам приписать недавним усилиям по компьютерному моделированию по­ знавательных способностей человека? Я считаю, что, отвечая на этот вопрос, полезно отличать «сильный» AI (как я это называю) от «сла­ бого» или «осторожного» AI (Artificial Intelligence — Искусственный Интеллект). Согласно слабому AI, основная ценность компьютера в изучении сознания состоит в том, что он дает нам некий очень мощ­ ный инструмент. Например, он дает нам возможность более строгим и точным образом формулировать и проверять гипотезы. Согласно же сильному AI, компьютер — это не просто инструмент в исследовании сознания; компьютер, запрограммированный подходящим образом, на самом деле и есть некое сознание в том смысле, что можно буквально сказать, что при наличии подходящих программ компьютеры понима­ ют, а также обладают другими когнитивными состояниями. Согласно сильному AI, поскольку снабженный программой компьютер обладает когнитивными состояниями, программы — не просто средства, позво­ ляющие нам проверять психологические объяснения; сами программы суть объяснения.

У меня нет возражений против притязаний слабого AI, во всяком случае в этой статье. Мое обсуждение здесь будет направлено на при­ тязания, которые я определил здесь как притязания сильного AI, именно: на притязание, согласно которому подходящим образом за­ программированный компьютер буквальным образом обладает когни­ тивными состояниями, и тем самым программы объясняют человече­ ское познание. Когда я далее буду упоминать AI, я буду иметь в виду сильный вариант, выраженный в этих двух притязаниях.

Я рассмотрю работу Роджера Шэнка и его коллег в Йейле (Schank and Abelson 1977), так как я знаком с ней больше, чем с дру­ гими подобными точками зрения, и потому что она представляет со­ бой очень ясный пример того типа работ, которые я хотел бы рас­ смотреть. Но ничего в моем последующем изложении не зависит от деталей программ Шэнка. Те же аргументы приложимы и к SHRDLU Винограда (Winograd 1973), и к ELIZA Вейценбаума (Weizenbaum 1965), и, в сущности, к любому моделированию феноменов человече-

1 Searle J. Minds, Brains, and Programs / / The Philosophy of Artificial Intelligence / Boden M. (ed.) Oxford, 1990. Перевод выполнен А. Л. Бли­ новым. Впервые статья была опубликована в журнале: «The Behavioral and Brain Sciences», 1980, № 3, pp. 417424. © Cambridge University Press. —

Прим. ред.

Мозг, сознание и программы

377

ской психики средствами машин Тьюринга.

Очень коротко, опуская разнообразные детали, можно описать программу Шэнка следующим образом: цель программы — смодели­ ровать человеческую способность понимать рассказы. Для способно­ сти людей понимать рассказы характерно, что люди способны отве­ чать на вопросы о данном рассказе даже в тех случаях, когда даваемая ими информация не выражена в рассказе явным образом. Так, напри­ мер, представьте, что вам дан следующий рассказ: «Человек зашел в ресторан и заказал гамбургер. Когда гамбургер подали, оказалось, что он подгорел, и человек в гневе покинул ресторан, не заплатив за гам­ бургер и не оставив чаевых». И вот если вас спросят: «Съел ли чело­ век гамбургер?», вы, видимо, ответите: «Нет, не съел». Точно так же, если вам предъявят следующий рассказ: «Человек зашел в ресторан и заказал гамбургер; когда гамбургер подали, он ему очень понравился; и покидая ресторан, он перед оплатой по счету дал официантке боль­ шие чаевые,» и спросят: «Съел ли человек свой гамбургер?», вы, ви­ димо, ответите: «Да, съел». И вот машины Шэнка могут точно так же отвечать на вопросы о ресторанах. В этих целях они обладают неким «представлением» («репрезентацией») той информации о ресторанах, какая бывает у людей и какая дает людям возможность отвечать на подобные вопросы, когда им предъявлен некий рассказ, вроде тех, что приведены выше. Когда машине предъявляют рассказ и затем задают вопрос, она распечатает такой ответ, какой мы ожидали бы от челове­ ка, которому предъявлен подобный рассказ. Приверженцы сильного AI утверждают, что в этой последовательности вопросов и ответов машина не только моделирует некую человеческую способность, но что, кроме того:

1. можно сказать буквальным образом, что машина понимает рассказ и дает ответы на вопросы;

2. то, что делают машина и ее программа, объясняет человече­ скую способность понимать рассказ и отвечать на вопросы о нем.

Мне, однако, представляется, что работа Шэнка 2 никоим образом не подкрепляет ни одно из этих двух утверждений, и я сейчас попы­ таюсь показать это.

Любую теорию сознания можно проверить, например, так: за­ даться вопросом, что бы это означало, что мое сознание на самом деле функционирует в соответствии с теми принципами, о которых данная теория утверждает, что в соответствии с ними функционируют все сознания. Приложим этот тест к программе Шэнка с помощью сле-

2 Я, разумеется, не утверждаю, что сам Шэнк подписался бы под этими утверждениями.

378

Джон Сёрл

дующего Gedankenexpenment3. Представим себе, что меня заперли в комнате и дали некий массивный текст на китайском языке. Предста­ вим себе далее, что я не знаю ни письменного, ни устного китайского языка (так оно и есть на самом деле) и что я не уверен даже, что рас­ познал бы китайский письменный текст в качестве такового, сумев отличить его, скажем, от японского письменного текста или от какихнибудь бессмысленных закорючек. Для меня китайское письмо как раз и представляет собой набор бессмысленных закорючек. Предста­ вим себе далее, что вслед за этой первой китайской рукописью мне дали вторую китайскую рукопись вместе с набором правил сопостав­ ления второй рукописи с первой. Правила эти на английском языке, и я понимаю их, как понял бы любой другой носитель английского языка. Они дают мне возможность сопоставить один набор формаль­ ных символов со вторым набором формальных символов, и единст­ венное, что значит здесь слово «формальный», — то, что я могу рас­ познавать символы только по их форме. Представьте себе теперь, что мне дали третью китайскую рукопись вместе с некоторыми инструк­ циями, — вновь на английском языке, — дающими мне возможность сопоставлять элементы этой третьей рукописи с первыми двумя, и эти правила учат меня, как в ответ на те или иные формальные сим­ волы из третьей рукописи выдавать определенные китайские симво­ лы, имеющие определенные очертания. Люди, которые дали мне все эти символы, называют первый текст «рукописью», второй — «расска­ зом», а третий — «вопросами», но я всех этих названий не знаю. Кроме того, они называют символы, которые я выдаю в ответ на тре­ тий текст, «ответами на вопросы», а набор правил на английском языке, который они дали мне, — «программой». Чтобы слегка услож­ нить эту историю, вообразите себе, что эти люди также дали мне не­ кие рассказы на английском языке, которые я понимаю, и они задают мне вопросы на английском языке об этих рассказах, и я выдаю им ответы на английском языке. Представьте себе также, что после неко­ торого промежутка времени я так набиваю руку в выполнении инст­ рукций по манипулированию китайскими символами, а программисты так набивают руку в писании программ, что при взгляде со сторо­ ны — то есть с точки зрения какого-либо человека, находящегося вне комнаты, в которой я заперт, — мои ответы на вопросы абсолютно неотличимы от ответов настоящих носителей китайского языка. Ни­ кто не сможет сказать, — если он видел только мои ответы, — что я ни слова не говорю по-китайски. Представим себе далее, что мои от­ веты на английские вопросы неотличимы от ответов, которые бы дали настоящие носители английского языка (как этого и следовало ожи-

Мысленный эксперимент {нем.) — Прим. перев.

Мозг, сознание и программы

379

дать) — по той простой причине, что я и есть настоящий носитель английского языка. При взгляде со стороны, — с точки зрения какогонибудь человека, читающего мои «ответы», — ответы на китайские вопросы и ответы на английские вопросы равно хороши. Но в случае китайских ответов, в отличие от случая английских ответов, я выдаю ответы, манипулируя неинтерпретированными формальными симво­ лами. Что же касается китайского языка, я веду себя попросту как компьютер; совершаю вычислительные операции на формальным об­ разом определенных элементах. В том, что касается китайского языка,

яесть просто инстанциация компьютерной программы.

Ивот претензии сильного AI состоят в том, что программиро­ ванный компьютер понимает рассказы и его программа в некотором смысле объясняет человеческое понимание. Но мы теперь можем рас­ смотреть эти претензии в свете нашего мысленного эксперимента.

1. Что касается первой претензии, мне кажется совершенно оче­ видным, что в данном примере я не понимаю ни одного слова в ки­ тайских рассказах. Мои входы и выходы неотличимы от входов и вы­ ходов носителя китайского языка, и я могу обладать какой угодно формальной программой, и все же я ничего не понимаю. По тем же са­ мым основаниям компьютер Шэнка ничего не понимает ни в каких рассказах — в китайских, в английских, в каких угодно, поскольку в случае с китайскими рассказами компьютер — это я, а в случаях, где компьютер не есть я, он не обладает чем-то большим, чем я обладал в том случае, в котором я ничего не понимал.

2. Что касается второй претензии, — что программа объясняет человеческое понимание, — мы видим, что компьютер и его программа не дают достаточных условий понимания, поскольку компьютер и про­ грамма работают, а между тем понимания-то нет. Но, может быть, при этом создается хотя бы необходимое условие или делается существен­ ный вклад в понимание? Одно из утверждений сторонников сильного AI состоит в том, что когда я понимаю некий рассказ на английском языке, я делаю в точности то же самое — или, быть может, почти то же самое, — что я делал, манипулируя китайскими символами. Случай с английским языком, когда я понимаю, отличается от случая с китай­ ским языком, когда я не понимаю, просто тем, что в первом случае я проделываю больше манипуляций с формальными символами.

Я не показал, что это утверждение ложно, но в данном примере оно определенно должно казаться неправдоподобным. А той правдо­ подобностью, которой оно все же обладает, оно обязано предположе­ нию, будто мы можем построить программу, которая будет иметь те же входы и выходы, что и носители языка, и вдобавок мы исходим из допущения, что для носителей языка имеется такой уровень описа-

380 Джон Сёрл

ния, на котором они также являются инстанциациями программы. На основе данных двух утверждений мы допускаем, что даже если про­ грамма Шэнка не исчерпывает всего, чтобы мы могли бы узнать о по­ нимании, она, возможно, есть хотя бы часть этого. Я допускаю, что это эмпирически возможно, но пока никто не привел ни малейшего основания, чтобы могли полагать, что это истинно, мой пример наво­ дит на мысль, — хотя, конечно, и не доказывает, — что компьютерная программа попросту не имеет никакого отношения к моему понима­ нию рассказа. В случае китайского текста у меня есть все, что может вложить в меня искусственный интеллект посредством программы, но я ничего не понимаю; в случае английского текста я понимаю все, но пока что нет никаких оснований думать, что мое понимание имеет что-то общее с компьютерными программами, т. е. с компьютерными операциями на элементах, определенных чисто формальным образом. Поскольку программа определена в терминах вычислительных опера­ ций на чисто формально определенных элементах, мой пример наво­ дит на мысль, что эти операции сами по себе не имеют интересной связи с пониманием. Они наверняка не составляют достаточных усло­ вий, и не было приведено ни малейшего основания считать, что они составляют необходимые условия или хотя бы вносят какой-то суще­ ственный вклад в понимание. Заметьте, что сила моего аргумента со­ стоит не просто в том, что различные машины могут иметь одни и те же входы и выходы при том, что их работа основана на разных фор­ мальных принципах, — дело вовсе не в этом. Дело в том, что какие бы формальные принципы вы ни закладывали в компьютер, они бу­ дут недостаточными для понимания, поскольку человек сможет сле­ довать этим формальным принципам, ничего не понимая. Не было предложено никаких оснований, чтобы думать, будто такие принципы необходимы или хотя бы полезны, поскольку не было дано никаких оснований, чтобы думать, что ковда я понимаю английский язык, я вообще оперирую с какой бы то ни было формальной программой.

Но что же все-таки имеется у меня в случае английских предло­ жений, чего у меня нет в случае китайских предложений? Очевидный ответ состоит в том, что в отношении первых я знаю, что они значат, а в отношении вторых у меня нет ни малейшего представления, что они могли бы значить. Но в чем такое представление могло бы состо­ ять и почему мы не могли бы снабдить им машину? Почему машина не могла бы узнать нечто такое обо мне, что означало бы мое пони­ мание английских предложений? Я вернусь к этим вопросам позднее, но сначала хочу продолжить свой пример.

У меня были случаи представить этот пример некоторым людям, работающим в области AI, и, что интересно, они, по-видимому, оказа­ лись не согласны друг с другом, что считать правильным ответом на