Машины создания - Дрекслер Эрик - Страница 63

Демократические правительства – большие, небрежные и иногда безответственные за жестокости, однако они не кажутся злом, в целом, хотя они могут включать людей, которые заслуживают этого ярлыка. В действительности их лидеры получают власть во многом выказывая поддержку общепризнанным идеям добра. Наша главная опасность в том, что стратегии, которые кажутся хорошими, могут вести к несчастью, или что действительно хорошие стратегии не будут найдены, опубликованы и воплощены во время, чтобы возыметь действие. Демократии страдают больше от лени и некомпетентности, чем от зла.

Некомпетентность будет кончено неизбежна, но должна ли она быть фатальной? Мы, человеческие существа, по своей природе глупы и невежественны, однако мы иногда ухитряемся объединить наши кусочки компетентности и знания, чтобы достигать великих вещей. Никто не знает, как долететь до Луны и никто никогда не узнает, однако дюжина людей прошлась по её поверхности. Мы преуспели в технических вопросах, потому что научились строить институты, которые собирают многих людей вместе, чтобы генерировать и проверять идеи. Эти институты добиваются надёжности путём избыточности, и качество их результатов зависит от во многом от того, как сильно это нас заботит и как напряжённо мы работаем. Когда мы концентрируем достаточно внимания и ресурсов на надёжности, мы часто преуспеваем. Это – то, почему полёты на Луну закончились успешно без гибели в космосе и почему никакое ядерное оружие никогда не было запущено и не взорвалось по случайности. И это то, почему мы можем суметь управлять нанотехнологией и продвинутым ИИ с достаточной осторожностью, чтобы гарантировать компетентную работу. Неустойчивые люди с ограниченными способностями могут объединиться, чтобы образовать стабильные, компетентные институты.

Лень – интеллектуальная, моральная и физическая – кажется возможно нашей самой большой опасностью. Мы можем только отвечать на великие вызовы великими усилиями. Сделают ли достаточно людей достаточные усилия? Никто не может этого сказать, поскольку никто не может сказать за любого другого. Но успех не потребует неожиданного всеобщего прозрения и мобилизации. Он потребует только растущего сообщества людей, пытающихся разработать, опубликовать и воплотить работоспособные решения, и чтобы они имели хорошую и растущую меру успеха.

Это не так невероятно. Забота о технологии стала широко распространённой, также как идея ускоряющегося изменения потребует лучшего предвидения. Лень не поймает в западню каждого, и введённые в заблуждение мыслители не будут вести по ложному направлению усилия всех. Смертоносные псевдо-решения (такие как запрещение исследований) проиграют битву идей, если достаточно людей разоблачат их. И хотя мы сталкиваемся в большим вызовом, успех сделает возможным осуществление великих мечтаний. Великие надежды и страхи могут подвигнуть достаточно людей, чтобы дать возможность человеческой расе выиграть.

Страстное участие и действие не будут достаточны; мы также будем нуждаться в хорошо обоснованных стратегиях. Это потребует больше чем хороших намерений и чётких целей: мы должны также отслеживать фактические связи в мире, которые будут связывать то, что мы делаем, с тем, что мы получаем. По мере того, как мы приближаемся к технологическому кризису беспрецедентной сложности, имеет смысл попытаться улучшить наши институты оценки важных технических фактов. Как ещё мы можем направлять ведущую силу и минимизировать угрозу последней некомпетентности?

Институты эволюционируют. Чтобы вывести лучшие институты для нахождения фактов, мы можем копировать, адаптировать и расширять наши прошлые успехи. Они включают свободную прессу, научное сообщество, и суды. Все имеют свои достоинства, и некоторые из этих достоинств могут быть объединены.

Глава 13. НАХОЖДЕНИЕ ФАКТОВ

Собрание экспертов

От междоусобиц к честному судебному процессу

Один из подходов

Почему бы не справедливый судебный процесс?

Построение справедливого судебного процесса

Обществу нужны лучшие способы понимания технологии – это давно уже очевидно. Вызовы будущего просто делают нашу потребность более насущной.

Обещания технологии манит нас вперёд, а давление конкуренции делает остановку практически невозможной. По мере того, как гонка технологий ускоряется, новые разработки входят в нашу жизнь всё быстрее, а фатальные ошибки становятся более вероятными. Нам нужно создать лучший баланс между нашим предвидением и нашей скорость продвижения. Мы не можем сделать много, чтобы замедлить рост технологии, но мы можем ускорить скорость предвидения. И с лучшим предвидением, у нас будет больше шансов направлять гонку технологий в безопасном направлении.

Предлагались различные способы для управления технологией. "Люди должны контролировать технологию" – неплохой лозунг, но он может иметь два возможных значения. Если это значит, что мы должны заставить технологию служить человеческим потребностям, то он вполне имеет смысл. Но если он означает, что люди как целое должны принимать технические решения, то в нём очень мало смысла. Электорат не может оценить внутренние взаимосвязи между технологией, экономикой, окружающей средой и жизнью; у людей нет необходимых знаний. Сами люди согласны: в соответствии с исследованием Государственным фондом науки США 85 процентов взрослых людей в США считают, что большинство граждан не имеет знаний, необходимых, чтобы выбирать, какие технологии разрабатывать. Публика в целом оставляет технические суждения техническим экспертам.

К сожалению, оставление суждений экспертам вызывает проблемы. В "Совете и разногласии" Примак и фон Хиппель отмечают, что "до той степени, до которой Администрация может преуспевать в удерживании нежелательной информации в секрете и публику в неведении, благополучие общества может быть принесено в жертву с безнаказанностью для удобства бюрократов и частной выгоды." Люди у руля подвергаются большей критике, когда новое лекарство вызывает единственную смерть, чем когда его отсутствие вызывает тысячи смертей. Они и выдают неправильное регулирование соответственно этому. Военные бюрократы имеют законный интерес в трате денег, скрытии ошибок и продолжении своих проектов. Они и управляют неправильно соответственно этому. Этот вид проблемы такой фундаментальный и естественный, что больше примеров вряд ли нужно. Везде секретность и туман создают чиновникам больший комфорт; везде личная выгода искажает фактические утверждения по вопросам, касающимся общественности. По мере того, как технологии становятся всё более сложными и важными, эта модель становится всё более опасной.

Некоторые авторы рассматривают правление секретных технократов практически неизбежным. В "Создании альтернативных видов будущего" Хейзел Хендерсон доказывает, что сложные технологии " становятся по сути своей тоталитарными

" (её курсив), потому что ни избиратели, ни законодатели не могут их понять. В "Повторном посещении будущего человечества" Харрисон Браун также утверждает, что соблазн обойти демократические процессы в решении сложных кризисов приносит опасность, "что если индустриальная цивилизация выживет, она станет всё более тоталитарной по природе." Если это было бы так, то вероятно это означало бы обречённость: мы не можем остановить гонку технологий, а мир тоталитарных государств, основанный на совершенной технологии не нуждающийся ни в работниках, ни в солдатах, мог бы вполне избавиться от большей части населения.