Мегабитовая бомба - Лем Станислав - Страница 31

6

Учитывая сказанное, я склонен заменить в tertiumcomparationis «древо жизни» на «ДРЕВО НАШИХ ТЕХНОЛОГИЙ». Это дерево всегда развивалось таким образом, что сначала создавались образцы. После них шли первые КОНКРЕТНЫЕ ПОПЫТКИ, и только потом появлялась фаза таких усовершенствований «продукта», где уже без сильного теоретико-математического вклада нельзя было обойтись. Я уже несколько десятков лет настойчиво пишу о том, чтобы мы старались догнать и даже перегнать Природу как Конструктора, и хотя мой голос, как писк мыши под метлой, не разносился далеко, но именно в указанном мною направлении начало устремлять свои современные побеги «древо технологий». Как живое дерево к Солнцу, так и наши технологии даже без внимания к моим советам направились в сторону природы: биотехнология с генной инженерией и микрохирургией клонирования, трансгенные трансплантации и даже целые созданные виды организмов. Однако я не намерен заниматься самовосхвалением потому, что если б ни меня, ни моих прогнозов вообще не было, все пошло бы так же. Да, я предвидел, но этим предвидением de facto ничего не сделал, так что те люди, которые реализовали мои «замыслы будущих действий» и реализовывают их по-прежнему, не имеют ни малейшего понятия, что кто-то предвидел их начинания.

Впрочем, и это лишь «попутное» отступление.

7

И здесь, где для tertium comparationis было взято дерево расцветающих и ветвящихся ТЕХНОЛОГИЙ, появилась вполне заметная на первый взгляд принципиальная разница между по-прежнему напрасно преследуемой «ментальной технологией», то есть технологией создания машинного интеллекта, и действием человеческого мозга. А происходит это потому, что до самолета был китайский бумажный змей, до космического челнока американцев были фейерверки, до автоматической линии (конвейера под присмотром компьютера) был ручной труд от палеолита до слесарного ремесла и кузнечного дела, а до компьютера были только счеты, затем усложнившиеся до арифмометра, но никакого технического следа имитации разумной жизни хотя бы муравьев или мух не появилось. Мы не умеем инженерно подражать тому, что не следует из результатов исследования конструкции! Мы не знаем, ни как и откуда берется сознание, ни где рождаются наши мысли, ни как понятия превращаются в предложения языка, но скромные попытки механизации вместе с усилиями обучения машины печатанию диктуемого текста дают такие результаты, что рентгенолог предпочитает сам (или диктуя стенографистке) делать описание рентгеновского снимка, чем потом исправлять текст, напечатанный компьютером с самой лучшей программой. Это так, но это совсем не означает, что так должно быть. Уже были отрасли во главе с атомной физикой, в которых теоретический скачок через невежество, невозможный путем малых шажков, оказался и возможным и необходимым — и дело дошло до желаемых, и нежеланных успехов. Но о «многообразии возможных искусственных интеллектов» поговорим, может быть, в другой раз.

Emotional Quotient

Эссе написано в августе 1997 г.

1

Роботы из фильмов science fiction способны по-настоящему говорить (разговаривать), но, как правило, их голос не похож на человеческий, аффектно модулируемый. Чаще всего они говорят «деревянным голосом», за исключением «андроидов», то есть очень похожих на человека «псевдороботов», таких как мистер Спок в сериале «Star trek».

2

Вопреки мнению некоторых, эти безаффектно произносимые слова не представляют собой режиссерский прием, который должен помочь зрителю отличить человека от големоподобной Emotional Quotient [Наделенная искусственным интеллектом — по названию серии компьютеров в фантастическом эссе Станислава Лема «Голем XIV», в котором так объясняется название: GOLEM — General Operator, Longrange, Ethically Stabilized, Multimodelling — Генеральный управитель, дальномыслящий, этически стабилизированный, мультимоделирующий (англ.); или там же — GOLEM — Governement’s Lamentable Expense of Money — прискорбная трата денег правительством (англ.). Само слово «голем» — древнееврейского происхождения, на иврите означает «эмбрион». В Талмуде термином «голем» определяются незавершенные предметы и существа, не готовые или не приступившие к выполнению своей функции. Слово «голем» впервые встречается в Библии (ВЗ, Пс. 138:16, «зародыш» в синодальном переводе). В других трудах сказано, что человек способен создавать живых существ из глины — големов. Первым големом, пока Бог не вдохнул в него жизнь, был Адам. В Талмуде содержится ранний вариант легенды о Големе как о человекоподобном существе, созданном искусственно, посредством магического акта. Известны и другие легенды о Големе, послужившие материалом для большого количества литературных произведений, самые известные из которых — «Франкенштейн» (1818 г.) М. Шелли и «Фауст» (часть 2, 1831 г.) И.-В. Гете. Наиболее полно легенда представлена в романе «Голем» (1915 г.) Г. Майринка] машины. Дело в том, что кроме интеллектуально осмысленной жизни мы имеем еще и эмоционально обусловленную. И в последние годы эта «эмоциональная жизнь» стала усложнять дело тем, кто стремится сконструировать «искусственный интеллект». До сих пор в тестовых экспериментах, где применяется «тест Тьюринга» в его классической форме, то есть в ситуации, когда человек, объясняющийся с КЕМ-ТО, должен решить, говорит ли он с другим человеком или с «мертвой имитацией» (скажем для упрощения — с компьютером), вся беседа сводится к написанию, а точнее, к выстукиванию вопросов либо ответов на клавиатуре устройства, соединенного с «этим другим», который также не может увидеть собеседника, потому что тот тоже лишь выстукивает тексты на клавиатуре. Типичные эксперименты такого рода уже в зародыше снимают вопрос, участвуют ли эмоции в происходящем разговоре или нет. Хотя в тексте, где нет и следа живого собеседника, можно было бы имитировать (модуляциями текста) приливы или отливы эмоций, которых «вообще в действительности нет». Этот аспект начал все больше беспокоить практиков и теоретиков Artificial Intelligence. Прежде всего, суть в том, что такие АФФЕКТЫ, ЭМОЦИИ, ЧУВСТВА дополняют, отрицают или даже противоречат осознаваемому состоянию (не только наяву: эмоциональные переживания порой настигают нас и во сне. Но благоразумие и чувство меры заставляют меня не касаться этой сферы, поскольку эмоции, переживаемые во сне, далеко не всегда соответствуют событиям, которые произошли бы наяву). То, что я отметил в скобках, имеет значение и в проблеме «возможности моделирования эмоций»: если когда-нибудь (во сне или после приема наркотиков, например) случаются вызванные аффектами ощущения, для которых в «нормальной действительности» нет способа определить их «нормальность», это свидетельствует о том, что эмоции могут отделяться от переживаемых «сюжетов» (происшествий). Жизнь, состоящая из осознания происходящего, — отдельно, а жизнь, устанавливаемая посредством потока эмоциональных состояний, — отдельно. Обычно обе между собой переплетаются, и даже тесно связаны. Нормально — обрадоваться при встрече давно не виденного друга. Нормально — сожалеть при известии о случившемся с ним несчастии или о его смерти. Нормально — рассмеяться, когда мы видим, что кто-то садится на сковороду с яичницей с помидорами. Нормально — почувствовать страх, переходящий в панику, когда тормозная педаль автомобиля, на котором едем именно мы, проваливается «до упора», а машина вот-вот врежется в другую или упадет в море. Кроме того, нам многое известно об особенностях проявления эмоционально отчетливых состояний. Нам известно, например, что в компании человек смеется гораздо охотней, когда смеются остальные (и поэтому в фильмах для зрителей-истуканов, плохо понимающих, когда нужно смеяться, а когда нет, записаны залпы смеха «в нужных моментах»). (Впрочем, не каждый склонен поддаваться таким записанным «командам рассмеяться»: я, например, избегаю их в TV, так как не желаю присоединяться к кругу людей, не знающих, когда надо смеяться, и надо ли вообще. Но это было небольшое отступление.)