Империя ИИ. Мечты и кошмары OpenAI Сэма Альтмана. Карен Хао. Саммари - Иванов М. Н. - Страница 1

Smart Reading

Империя ИИ. Мечты и кошмары OpenAI Сэма Альтмана. Карен Хао. Саммари

Оригинальное название:

Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI

Автор:

Karen Hao

Что случилось в ноябре

Вы наверняка слышали эту новость. 17 ноября 2023 года Сэм Альтман был отстранен от должности соучредителя и исполнительного директора OpenAI решением совета директоров. А 22 ноября он был восстановлен в должности. Никто не понял, что произошло. Учитывая, что Альтман – глава компании, разрабатывающей самую сложную и многообещающую технологию в мире, закрытость решения от этого самого мира выглядит зловеще. Что еще из того, что придумали гении Кремниевой долины, они не потрудились нам сообщить?

В этой книге – ответ на вопрос, что происходило в те ноябрьские дни, а также задолго до них. Важны причины, по которым Альтман был вынужден уйти. Но важны и причины, по которым он вернулся. Эта книга не о том, как искусственный интеллект изменит мир в ближайшие годы, а о том, как человеческий интеллект – вернее, страсти, амбиции, мечты – устанавливает правила игры прямо сейчас. Дочитав эту книгу, вы сами решите, какой именно тип интеллекта может оказаться опаснее.

Нечто необыкновенное

Компания OpenAI была одним из самых благородных начинаний в истории человечества. В ее собственной истории много разных героев, но начать, конечно, следует с Сэма Альтмана и Илона Маска. Перенесемся в летний вечер 2015 года, когда эти два в высшей степени предприимчивых джентльмена встретились. Маск тогда уже не нуждался в представлении: богач, визионер, запускающий на околоземную орбиту частные космические корабли. Сэм Альтман тоже не нуждался в представлении, но в медийности уступал Маску. Тем не менее успехи его венчурного фонда Y Combinator, поддерживающего небольшие компании в сфере IT, Кремниевой долине были прекрасно известны.

Обсуждали они тем вечером перспективы искусственного интеллекта. Маска тема тревожила. Он полагал, что опыты Google в этом направлении куда опаснее, чем его космические проекты. Непонятно, куда все это повернет. Альтман же отвечал в том духе, что если нечто нельзя предотвратить, то нужно возглавить.

Так возникла OpenAI. Маск, Альтман, а также выдающиеся инженеры и разработчики Илья Суцкевер, Дарио Амодеи и Грег Брокман – вот кто стоял у истоков. Но не все остались до сегодняшнего дня.

Альтман всегда убедительно умел рассказывать о том, почему у него все получится. Разумеется, на одних только рассказах его карьера не держалась. Он работал не покладая рук с самой юности. В 2005-м, когда ему было 19, стал главой Loopt, мобильного приложения для соцсетей с функцией геолокации. Приложение было не слишком популярным, и спустя семь лет Альтман его продал. Однако из его публичных речей тогда следовало, будто продает он золотоносные рудники. Альтман никогда не был одиночкой – он был гением нетворкинга и умел к себе располагать.

Когда в начале 2010-х Альтман перешел из Loopt в Y Combinator, он познакомился с соучредителем фонда Полом Грэмом и в его лице нашел главного своего поклонника. Альтман для Грэма был воплощением амбициозности. Неудивительно, что уже через три года Альтман стал президентом фонда. Еще одним важным советчиком Альтмана стал миллиардер, создатель PayPal Питер Тиль: их свели общие инвестиционные интересы. Грэм и Тиль – это были люди с хваткой. Если бы Альтман, как Билл Гейтс, изучал информатику где-нибудь в Гарварде или его карьера началась в закрытой правительственной лаборатории, траектория OpenAI была бы совсем иной.

Без представления о важности постоянного масштабирования.

Без стремления к монополии.

Но в 2015-м все в OpenAI хотели только всеобщего счастья.

«Можно быть открытыми, делясь плодами своих трудов с остальными людьми, но при этом не раскрывая технологий». Так сказал Илья Суцкевер в 2016 году, на заре OpenAI. И это была первая поправка к благим намерениям.

Идея Суцкевера не встретила возражений. Вообще, слова его были весомыми. Сын советских эмигрантов, изучавший компьютерные науки в Израиле и США, ученик одного из основателей глубокого обучения Джеффри Хинтона, перешедший к Альтману из Google, был типичным гением.

Альтман, однако, старался набирать коллектив новой компании так, чтобы никто никому не уступал. Поэтому в гениях там недостатка не было. Хуже то, что никто не понимал, что именно они должны создавать. Как выглядит AGI[1] (а они с самого начала нацелились именно на эту форму ИИ)? Как он себя проявит? Это будут роботы или что-то иное? Он тоже должен уметь играть в го, как творение Google DeepMind?

Все дело в объеме вычислений, понял Суцкевер. Вот на что нужно делать ставку. Именно этот показатель стремительно растет во всех известных им исследованиях ИИ, опережая даже закон Мура. Больше вычислений – больше чипов, но больше чипов – больше денег. Как их привлечь организации, объявившей себя некоммерческой? Самым богатым среди них был Маск – но и самым переменчивым. Вдруг он просто присоединит убыточный OpenAI к Tesla, подчинив своим интересам? Насколько Маск надежен?

Альтман снова и снова в беседах с Брокманом и Суцкевером задавал им такие вопросы. Вероятно, намекая на то, что двух лидеров у компании быть не может. Его политика увенчалась успехом. В феврале 2018 года Маск покинул правление OpenAI, в частной переписке с ним Суцкевер и Брокман выразили поддержку Альтману. Теперь их интересы разошлись. И Альтману нужно было искать для OpenAI капитал.

Кое-какие наработки у них были. В 2018–2019 годах неплохо проявила себя OpenAI Five – команда ботов на основе ИИ для игры в Dota 2. Альтман упомянул об этом на встрече с главой Microsoft Сатьей Наделлой. Наделлу разработка заинтересовала, но Билла Гейтса – нет. По-настоящему умный ИИ должен анализировать смыслы и на основе этого давать уместные подсказки – вот чего хотел Гейтс. Есть ли у OpenAI что-то в этом духе? Да, это GPT-2.

GPT – это Generative Pretrained Transformer. Generative («генеративный») – умеет генерировать контент. Pretrained – предварительно обученный на разных данных. Transformer – наименование архитектуры нейросети, она была разработана Google с целью обработки данных.

При этом в OpenAI подчеркнули: мощность их GPT-2 такова, что о знакомстве широкой публики со всеми ее возможностями не может быть и речи. В мир будет выпущено страшное информационное оружие. Достаточно ограничиться лайт-версией. Это заявление летом 2019 года принесло компании миллиард: Microsoft пошел им навстречу.