Тени разума. В поисках науки о сознании - Пенроуз Роджер - Страница 72

Что касается второй причины, т.е. зависимости от  c чисел T, Lи N, то, в силу вышеизложенных соображений, представляется очевидным, что для задания величин этих чисел (в особенности, их возможных предельных значений) совершенно не требуется, чтобы количество знаков в их двоичном представлении возрастало так же быстро, как c; более чем достаточно будет и, скажем, обыкновенной логарифмической зависимости от c. Следовательно, мы с легкостью можем допустить, что зависимость величины γ+ 210 log 2( γ+ 336) от  cявляется не более чем грубо логарифмической, а также устроить так, чтобы само число  cвсегда было больше этой величины.

Согласимся с таким выбором с и будем в дальнейшем вместо Q( c) записывать Q*. Итак, Q* есть формальная система, теоремами которой являются все математические высказывания, какие можно вывести из конечного количества √кратких ☆ M -утверждений, используя стандартные логические правила (исчисление предикатов). Количество этих ☆ M -утверждений конечно, поэтому разумным будет предположить, что для гарантии их действительной безошибочности вполне достаточно некоторого набора постоянных T, Lи N. Если роботы верят в это с ☆ M -убежденностью, то они, несомненно, ☆ M -заключат, что гёделевское предположение G( Q*) также истинно на основании гипотезы M, поскольку является Π 1-высказыванием меньшей, нежели c, сложности. Рассуждение для получения утверждения G( Q*) из ☆ M -убежденности в обоснованности формальной системы Q* достаточно просто (в сущности, я его уже привел), так что с присвоением этому утверждению статуса ☆ M проблем возникнуть не должно. То есть само G( Q*) также должно быть теоремой системы Q*. Это, однако, противоречит убежденности роботов в обоснованности Q*. Таким образом, упомянутая убежденность (при условии справедливости гипотезы  Mи достаточно больших числах T, Lи N) оказывается несовместимой с убежденностью в том, что поведением роботов действительно управляют механизмы M, — а значит, механизмы  Mповедением роботов управлять не могут.

Как же роботы могут удостовериться в том, что были выбраны достаточно большие числа T, Lи N? Никак. Вместо этого они могут выбрать некоторыйнабор таких чисел и попробовать допустить, что те достаточно велики, — и прийти в результате к противоречию с исходным предположением, согласно которому их поведение обусловлено набором механизмов M. Далее они вольны предположить, что достаточным окажется набор из несколько больших чисел, — снова прийти к противоречию и т.д. Вскоре они сообразят, что к противоречию они приходят при любомвыборе значений (вообще говоря, здесь нужно учесть, помимо прочего, небольшой технический момент, суть которого состоит в том, что при совершенно уже запредельных значениях T, Lи Nзначение  cтакже должно будет несколько подрасти — однако это неважно). Таким образом, получая один и тот же результат вне зависимости от значений T, Lи N, роботы — равно как, по всей видимости, и мы — приходят к заключению, что в основе их математических мыслительных процессов не может лежать познаваемая вычислительная процедура M, какой бы она ни была.

3.21. Окончателен ли приговор?

Отметим, что к такому же выводу мы придем и в случае принятия нами самых разных возможных мер предосторожности, причем вовсе необязательно подобных тем, что я предлагал выше. Наверняка в предложенную модель можно еще внести множество усовершенствований. Можно, например, предположить, что роботы в результате длительной работы впадают в «старческое слабоумие», их сообщества вырождаются, а стандарты падают, т.е. увеличение числа  Tвыше определенного значения на деле  увеличиваети вероятность ошибки в ☆ M -утверждениях. С другой стороны, если слишком большим сделать N(или L), то возникает риск исключить вообще все ☆ M -утверждения из-за существующего в сообществе меньшинства «глупых» роботов, разражающихся время от времени произвольными ☆ M -утверждениями, которые в данном случае не перекроются необходимым количеством ☆-утверждений, формулируемых роботами здравомыслящими. Несомненно, не составит большого труда такой риск полностью исключить, введя еще несколько ограничивающих параметров или, скажем, сформировав группу элитных роботов, силами которых рядовые члены сообщества будут непрерывно тестироваться на предмет адекватности своих интеллектуальных способностей, и потребовав к тому же, чтобы статус йг присваивался утверждениям только с одобрения всего сообщества роботов в целом.

Существует и много других возможностей улучшения качества ☆ M -утверждений или исключения ошибочных утверждений из общего (конечного) их числа. Кого-то, возможно, обеспокоит тот факт, что, несмотря на установление предела с сложности Π 1-высказываний, ограничивающего общее количество кандидатов на ☆- или ☆ M -статус до некоторой конечной величины, эта величина окажется все же чрезвычайно огромной (будучи экспоненциально зависимой от c), вследствие чего становится весьма сложно однозначноудостовериться, что исключены всевозможные ошибочные ☆ M -утверждения. В самом деле, никакого ограничения не задается в рамках нашей модели на количество «робото-вычислений», необходимых для получения удовлетворительного ☆ M -доказательства какого-либо из Π 1-высказываний. Следует ввести четкое правило: чем длиннее в таком доказательстве цепь рассуждений, тем более жесткие критерии применяются при решении вопроса о присвоении ему ☆ M -статуса. В конце концов, математики-люди реагировали бы именно так. Прежде чем принять в качестве неопровержимого доказательства собрание многочисленных путаных аргументов, мы, естественно, чрезвычайно долго и придирчиво его изучаем. Аналогичные соображения, разумеется, применимы и к тому случаю, когда предложенное доказательство на предмет его соответствия ☆ M -статусу исследуют роботы.

Вышеприведенные рассуждения в равной степени справедливы и в случае любой дальнейшей модификации условий, имеющих целью устранение ошибок, при условии, что характер такой модификации в некоем широком смысле аналогичен характеру уже предложенных. Для того чтобы эти рассуждения работали, необходимо лишь наличие какого угодночетко сформулированного и вычислимого условия, достаточного для устранения всех ошибочных ☆ M -утверждений. В результате мы приходим к строгому выводу: никакие познаваемые механизмы, пусть и снабженные какими угодно вычислительными «подпорками», не способны воспроизвести корректное математическое умозаключение человека.

Мы рассматривали ☆ M -утверждения, которые, оказавшись по той или иной причине ошибочными, в принципе исправимы самими роботами, — пусть даже в каком-то конкретном экземпляре модели роботова сообщества эти утверждения так и остаются неисправленными. Что же еще может означать (в операционном смысле) фраза «в принципе исправимы», как не «исправимы средствами некоторой общей процедуры, подобной тем, что предложены выше»? Ошибка, которую не исправил позднее тот робот, что ее допустил, может быть исправлена каким-либо другим роботом — более того, большинство потенциально существующих экземпляров первого робота эту конкретную ошибку вообще не допустят. Делаем вывод (с одной, по-видимому, незначительной оговоркой, суть которой в том, что хаотические компоненты нашей модели можно еще заменить на подлинно случайные; см. ниже, §3.22): никакой набор познаваемых вычислительных правил  M(неизменных нисходящих, «самосовершенствующихся» восходящих либо и тех, и других в какой угодно пропорции) не может обусловливать поведение нашего сообщества роботов, равно как и отдельных его членов, — еслиисходить из допущения, что роботы способны достичь человеческого уровня математического понимания. Вообразив, что мы сами функционируем как управляемые вычислительными правилами роботы, мы оказываемся перед непреодолимым противоречием.