Почему замедление искусственного интеллекта невозможно
Наверное, вы все уже слышали о том, как множество «топов» искусственного интеллекта в последнее время так или иначе высказывались о необходимости его замедления. В этом списке Дарио Амодеи (Anthropic), Сэм Альтман (OpenAI), Демис Хассабис (DeepMind/Google), Якуб Пачоцки (OpenAI), Сатья Наделла (Microsoft), и многие-многие другие. Буквально сегодня пришла очередная новость о том, что OpenAI (владелец ChatGPT) приостановила обучение своих самых мощных моделей и не возобновит его, пока не внедрит дополнительные меры безопасности.
Безотносительно того, являются ли страхи в отношении ИИ обоснованными, или это всего лишь хитрая уловка капитанов глобального бигтеха*, мы абсолютно уверены в том, что развитие искусственного интеллекта остановить уже невозможно. Укажем три главные причины, почему это так.
Первое. Прогресс не остановить.
Слабость этого аргумента в том, что он слишком абстрактен. И это действительно так. Однако вся прошлая история человечества подтверждает его правоту, поэтому игнорировать его как минимум не стоит.
Второе. «Обеспечьте капиталу 10% прибыли, и капитал согласен на всякое применение; при 20% он становится оживлённым, при 50% положительно сломает себе голову, при 100% он попирает все человеческие законы, при 300% нет такого преступления, на которое он не рискнул бы, хотя бы под страхом виселицы». Многие думают, что это сказал Маркс. Однако на самом деле Маркс всего лишь цитирует Томаса Даннинга, английского профсоюзного деятеля XIX века. Но в данном случае само авторство не важно, важен смысл.
Несмотря на то, что до сих пор прибыли непосредственно от внедрения ИИ остаются достаточно скромными, по крайней мере в сравнении с теми, что ожидались** , сама по себе технология обещает немыслимый в истории человечества профит, — как минимум, лидерам гонки. А то, что эта лидерская прибыль будет формироваться за счет остальных участников, которые, возможно, потеряют буквально все, правоту утверждения Томаса Даннинга никак не отменяет. Невозможность замедлить ИИ-гонку заложена в самой логике капитализма.
Третье. Из нашего опыта общения со сверхбогатыми людьми мы можем выделить присущую именно им характерную особенность. Буквально все они — азартные игроки. Не в том, конечно, смысле, что они завсегдатаи онлайн-казино, а в том, что это люди, готовые рисковать — и рискующие.
Если вы успешный модный лойер с клиентурой в самом богатом городе мира — Нью-Йорке, ведущий одобряемую высшим американским обществом размеренную жизнь — утренняя пробежка в центральном парке, дети в частной школе на Аппер-Ист-Сайде, членство в загородном клубе, регулярные донаты демократической партии, Mercedes G-Wagon для работы и Porsche 911 для выходных, то вы можете, например, зарабатывать и по 15 миллионов долларов в год, причем за вычетом налогов. Но миллиардером вы не станете никогда! Чтобы стать миллиардером, нужно в первую очередь не думать о благах, обеспечиваемых количеством нулей на счетах, а любить и при этом уметь (!) рисковать.
Пропасть между успешным лойером в Нью-Йорке и человеком из американского списка Forbes глубже, чем между мувером (то бишь грузчиком для переездов), и этим самым престижным адвокатом. Есть, конечно, и исключения. Наследные миллиардеры. Им рисковать совсем не обязательно. Их задача — спокойно и уверенно продолжать начатый рисковыми предками курс. Но их доля в глобальном ИИ столь невелика, что ими можно и пренебречь.
И тут мы подходим к самому главному.
Человек, причем очень умный человек, но имеющий при этом психологию игрока, даже в том случае, если на одной чаше весов будет гибель всего человечества, включая его самого, а на другой — возможность стать тем, чья слава превзойдет славу любого исторического персонажа (обеспечив прорыв в области сильного ИИ, который раз и навсегда решит большинство наших проблем, от голода до неизлечимых болезней), а шансы оцениваются 50 на 50, совершенно точно подбросит эту монетку. Вряд ли бы так поступил наш гипотетический лойер, для которого главное в жизни — комфорт и гармония, но Илон Маск или Дженсен Хуанг — наверняка. И это 50 на 50. Неужели вы думаете, что какие-то жалкие 10 процентов (большинство экспертов оценивает риски гибели нашего вида в результате прогресса искусственного интеллекта именно так) остановит этих неудержимых фанатиков сверх-человеческих технологий?
И вот, кстати, последняя новость. Илон Маск заявил, что его «Грок» будет только ускоряться …
Примечания:
* Есть конспирологическая версия о том, что все эти пляски вокруг возможного восстания машин всего лишь трюк для венчурных инвесторов, которые обеспокоены тем, что никак не дождутся обещанных сверхприбылей.
** Сейчас в основном зарабатывает техническая инфраструктура: производители чипов, строители и владельцы дата-центров и так далее.
