Источник
Code Conference (2016)
ДальшеY Combinator (2016)Code Conference (2016)
- Интервьюеры: Кара Свишер и Уолт Моссберг, на сцене конференции Code Conference (Recode).
- Формат: живое интервью на сцене.
- Дата: 1 июня 2016 года.
- Уровень доверия: выдержки (частичная верификация). Официальной расшифровки в виде статьи от организатора/телеканала не существует — Recode опубликовал только полное видео. Поэтому первоисточник — это набор дословных цитат-выдержек, собранных из авторитетных изданий, которые цитировали Илона Маска напрямую; флаг
verifiedна уровне источника остаётсяfalse, но каждая отдельная выдержка цитируема через статью издания, в которой она прозвучала. - Цитирование: каждая блок-цитата ниже побайтово соответствует первоисточнику и привязана — фрагментом
#:~:text=, чей раскодированный отрывок является дословной подстрокой цитаты, — к статье издания, которое её процитировало, а не к видео на YouTube (текстовые фрагменты не работают на страницах с видео). Издания: статья ACS Information Age (ia.acs.org.au) для цитат о симуляции и ИИ, Alternet (alternet.org) для цитат о киборге / нейроинтерфейсе, SpaceX, нескольких марсианских и для строки «Either…or civilization will cease to exist» (чью точную формулировку статья Information Age передаёт слегка иначе, поэтому она привязана к Alternet, где приведена дословно), Time (time.com) для точной цитаты о сроках по Марсу и Recode (recode.net) — чья статья 2016 года теперь размещается на сайте-преемникеvox.comпод тем же слагом11852148— для цитат об устройстве власти на Марсе.
Резюме
Самое интеллектуально содержательное интервью Илона Маска за 2016 год и публичный дебют идеи, с которой он теперь сильнее всего ассоциируется за пределами своих компаний, — аргумента о симуляции. Когда его спрашивают об этом на сцене, он выкладывает весь ход рассуждения — от Pong к фотореалистичным играм и к выводу, что шансы жить в базовой реальности — один к миллиардам, — и, как обычно, превращает это в аргумент в пользу надежды, а не отчаяния. Это интервью на три месяца опережает беседу Y Combinator в сентябре 2016 года и является самым ранним в вики источником ряда его фирменных фраз.
Сигнал сосредоточен в четырёх кластерах. О метафизике — аргумент о симуляции изложен от и до, с обнадёживающим поворотом: находиться в симуляции — это хороший исход (альтернатива — цивилизация, которая перестаёт развиваться). Об ИИ — сжатое повторение его тревоги об экзистенциальном риске: не все варианты будущего с ИИ безобидны. О человеке — первое в вики произнесение фразы мы уже киборг: телефон-и-компьютер как сверхспособности и аргумент о нейроинтерфейсе о том, что без широкополосной связи с цифровым «я» ты уже не домашняя кошка относительно ИИ — тезис о пропускной способности в зачатке, за месяцы до Neuralink. И о Марсе — как (с тех пор не сбывшийся) прогноз по срокам (пилотируемый запуск около 2024-го, прибытие в 2025-м), так и отличительное видение устройства власти: на Марсе должна быть прямая демократия, потому что без посредников потенциал коррупции существенно снижен.
Ключевые цитаты (дословно, с привязкой к изданиям — только Илон Маск)
Аргумент о симуляции
Он начинает с признания, как далеко зашло наваждение, — вплоть до запрета на тему в джакузи:
“I’ve had so many simulation discussions, it’s crazy.” 🔗
«У меня было столько разговоров о симуляции, это просто безумие.»
“In fact it got to the point where basically every conversation was the AI/simulation conversation, and my brother and I finally agreed that we would ban such conversations if we were ever in a hot tub.” 🔗
«Дошло до того, что практически каждый разговор был разговором про ИИ/симуляцию, и мы с братом в итоге договорились, что запретим такие разговоры, если когда-нибудь окажемся в джакузи.»
Сам аргумент — экстраполяция темпа прогресса в видеоиграх: от Pong к фотореализму за сорок лет:
“Forty years ago we had Pong, like two rectangles and a dot, and that was what games were.” 🔗
«Сорок лет назад у нас был Pong — два прямоугольника и точка, вот чем были игры.»
“Now, 40 years later we have photorealistic 3D simulations with millions of people playing simultaneously and it’s getting better every year. And soon we’ll have virtual reality and augmented reality.” 🔗
«Теперь, 40 лет спустя, у нас фотореалистичные 3D-симуляции, в которые одновременно играют миллионы людей, и с каждым годом они становятся лучше. А скоро у нас будут виртуальная и дополненная реальность.»
Единственная нужная ему посылка — хоть какое-то продолжение улучшений:
“If you assume any rate of improvement at all, then the games will become indistinguishable from reality.” 🔗
«Если допустить хоть какой-нибудь темп улучшения, то игры станут неотличимы от реальности.»
Из чего следует вывод — миллиарды устройств, на каждом из которых крутятся неотличимые симуляции:
“So given that we’re clearly on a trajectory to have games that are indistinguishable from reality and those games could be played on any set top box or on a PC or whatever, and there would probably be billions of such set top boxes and computers, it would seem to follow that the odds that we’re in base reality is one in billions.” 🔗
«Итак, раз мы явно движемся к играм, неотличимым от реальности, и в эти игры можно играть на любой приставке, или на ПК, или на чём угодно, а таких приставок и компьютеров, вероятно, будут миллиарды, — отсюда, похоже, следует, что шансы, что мы находимся в базовой реальности, — один к миллиардам.»
На прямой вопрос он не уклоняется:
“No. There’s a one in billions chance that this is base reality.” 🔗
«Нет. Шанс, что это базовая реальность, — один к миллиардам.»
И затем поворот, который делает аргумент его собственным: быть симулируемым — это обнадёживающее прочтение, потому что альтернатива — крах цивилизации:
“We should hope that’s true because otherwise if civilization stops advancing, that could be due to some calamitous event that erases civilization, so maybe we should be hopeful this is a simulation.” 🔗
«Нам стоило бы надеяться, что это так, потому что иначе, если цивилизация перестаёт развиваться, это может быть из-за какого-то катастрофического события, стирающего цивилизацию, — так что, может, нам стоит надеяться, что это симуляция.»
“Either we’re going to create simulations that are indistinguishable from reality or civilization will cease to exist.” 🔗
«Либо мы создадим симуляции, неотличимые от реальности, либо цивилизация прекратит существование.»
ИИ — не все варианты будущего безобидны
Сжатая формулировка 2016 года той тревоги об экзистенциальном риске, которую он озвучивал годами:
“I am concerned at certain directions that AI could take that would be not good for the future.” 🔗
«Меня беспокоят некоторые направления, в которых может пойти ИИ и которые были бы нехороши для будущего.»
“I think it would be fair to say that not all AI futures are benign.” 🔗
«Думаю, будет справедливо сказать, что не все варианты будущего с ИИ безобидны.»
«Мы уже киборг»
Самое раннее в вики изложение его тезиса о том, что мы уже киборг, — телефон и компьютер как усилитель возможностей:
“We’re already a cyborg.” 🔗
«Мы уже киборг.»
“You basically have superpowers with your computer and your phone. You have more power than the president had 20 years ago.” 🔗
«По сути, у тебя есть сверхспособности благодаря компьютеру и телефону. У тебя больше власти, чем было у президента 20 лет назад.»
И аргумент о пропускной способности, зачем нужен нейроинтерфейс: без него человек проигрывает ИИ так же, как питомец проигрывает человеку:
“If we can figure out how to establish a high bandwidth neural interface with your digital self effectively, then you’re no longer a house cat.” 🔗
«Если мы сумеем эффективно наладить широкополосный нейроинтерфейс с твоим цифровым „я“, то ты больше не домашняя кошка.»
Марс — сроки и прямая демократия
Его прогноз по срокам 2016 года (с тех пор не сбывшийся) — пилотируемый запуск к середине десятилетия:
“We should be able to launch people [to Mars] in 2025.” 🔗
«Мы должны быть в состоянии отправить людей [на Марс] в 2025 году.»
Более точная версия того же прогноза, как её зафиксировал Time:
“If things go according to plan, we should be able to launch people probably in 2024 with arrival in 2025.” 🔗
«Если всё пойдёт по плану, мы должны быть в состоянии отправить людей, вероятно, в 2024 году с прибытием в 2025-м.»
Его видение устройства власти в марсианской колонии — прямая, а не представительная демократия:
“The form of government on Mars would be a direct democracy, not representative.” 🔗
«Формой правления на Марсе была бы прямая демократия, а не представительная.»
“I think most likely the form of government on Mars will be direct democracy.” 🔗
«Думаю, скорее всего, формой правления на Марсе будет прямая демократия.»
“people voting directly on issues” 🔗
«люди голосуют напрямую по вопросам»
Причина, которую он называет, — меньше посредников, меньше захвата власти:
“because the potential of corruption is substantially diminished in a direct versus a representative democracy.” 🔗
«потому что потенциал коррупции существенно снижен при прямой демократии по сравнению с представительной.»
SpaceX — выжать максимум из единственной выручки, что есть
О краткосрочной бизнес-логике SpaceX — марсианских денег пока нет, поэтому надо выжать всё из Земли:
“Right now we’re trying to maximize Earth-based revenue. There’s only earth-based revenue, so we’ve got to maximize it as it relates to rockets and spacecraft.” 🔗
«Сейчас мы стараемся максимизировать выручку на Земле. Есть только земная выручка, так что нам надо выжимать из неё максимум — в том, что касается ракет и космических кораблей.»
И аналогия, которой он пользуется, чтобы объяснить создание спроса до появления рынка, — трансконтинентальная железная дорога к пустой Калифорнии:
“Space X is like the Union Pacific. Everyone thought 'Union Pacific, What a stupid idea. There’s nobody living in California. Well, now there’s a lot of people living in California.” 🔗
«SpaceX — это как Union Pacific. Все думали: „Union Pacific, какая глупая идея. В Калифорнии никто не живёт“. Что ж, теперь в Калифорнии живёт куча людей.»
Связи (затронутые страницы)
- Гипотеза симуляции — создана: ключевая концепция, которую устанавливает этот источник, — аргумент от Pong к фотореализму, вывод один к миллиардам и обнадёживающая рамка.
- Колонизация Марса — создана: прогноз по срокам 2016 года и видение прямой демократии (рассуждение о борьбе с коррупцией).
- Илон Маск — дополнена разделом «Что раскрывает Code Conference 2016»; весь прежний контент сохранён.
- Экзистенциальный риск ИИ — дополнена репликой 2016 года не все варианты будущего с ИИ безобидны, самой ранней первой-лицом репликой об ИИ-риске в вики.
- Слияние с ИИ — дополнена первым высказыванием мы уже киборг (июнь 2016), опережающим формулировки YC 2016 и 2024 года.
- Симбиоз человека и ИИ — дополнена аргументом про домашнюю кошку / широкополосный нейроинтерфейс, самой ранней рамкой о пропускной способности в вики.
- SpaceX — дополнена (была заготовкой) логикой максимизировать земную выручку и аналогией с Union Pacific.