Lex Fridman #49 (2019)

• Ведущий: Лекс Фридман
• Формат: подкаст («Artificial Intelligence Podcast»), ~36 мин («Neuralink, AI, Autopilot, and the Pale Blue Dot»)
• Дата: 12 ноября 2019 года
• Уровень доверия: verified (уровень 1) — официальная страница эпизода на lexfridman.com даёт ссылку на PDF, расшифрованный Rev.com; запись в raw это извлечённый текст этого PDF, тот же уровень доверия, что и у #400 и #438. Текст блок-цитат ниже побайтово точен к этой официальной стенограмме.
• Цитирование: в отличие от #400 и #438, страница эпизода #49 на lexfridman.com (https://lexfridman.com/elon-musk-2/) не содержит встроенной HTML-стенограммы — только PDF, на котором текстовые фрагменты #:~:text= не срабатывают. Поэтому, ровно как на смежной странице #18 (2019), каждая блок-цитата привязана к официальной загрузке на YouTube-канале Лекса Фридмана (id видео smK9dgdTl40) меткой времени &t=<секунды>s, взятой из стенограммы Rev. Каждая блок-цитата — дословная реплика Илона Маска; Лекс Фридман — интервьюер и не цитируется.

Краткое содержание

Второе появление Маска у Лекса Фридмана («Part II»), записанное в тот же день, когда демонстрировались наработки Neuralink, — богатейший ранний источник вики о том, как он мыслит разум как «железо». Если #18 (семью месяцами ранее) был в основном про Автопилот, то #49 — это разговор, в котором почти весь кластер убеждений Neuralink изложен за годы до отполированного 2024 года: сознание как физическое явление, мозг как «обезьяний мозг с приделанным компьютером», машина как сторона, которая должна подстраиваться, цифровой сверхинтеллект как «третичный слой» и «не можешь победить — присоединяйся» как обоснование слияния. Это сильная база 2019 года для взглядов, которые вики иначе отслеживает в основном с 2024 года.

Сигнал несут четыре линии. О сознании он даёт свою самую чистую раннюю формулировку, что разум физичен и что научный метод — это тест для познаваемого, и предсказывает, что ИИ сможет симулировать сознание так хорошо, что разница станет непроверяемой. О риске ИИ он повторяет довод о внешнем регуляторном арбитре и о «сингулярности» как точке, за которой всё становится непредсказуемым и нестабильным. О разуме как слоистом железе — лимбико-кортикальная модель в её полнейшей ранней форме — кора это умный слой в услужении глупому лимбическому, с грядущим цифровым «третичным слоем». А в заключительном сегменте о бледно-голубой точке он превращает образ Карла Сагана в довод о выживании цивилизации / Марсе: цивилизации поднимаются и падают, теперь вместе, поэтому сознанию не следует оставаться на одной планете.

Ключевые цитаты (дословно Маск; якоря-метки времени YouTube)

Сознание физично, и научный метод — это тест (Сознание и смерть, Первопринципы)

На вопрос, пронизывает ли сознание всю материю (панпсихизм), он сразу отвергает мистическое прочтение:

“I don’t think consciousness permeates all matter.” 🔗

«Я не думаю, что сознание пронизывает всю материю.»

Его эпистемология этого вопроса — научный метод: нечто истинно в той мере, в какой это можно проверить:

“I believe in scientific method.” 🔗

«Я верю в научный метод.»

И его самое явное раннее утверждение, что разум — физическое явление, выведенное, что характерно, из физического вмешательства:

“If you damage your brain in some way physically, you damage your consciousness, which implies that consciousness is a physical phenomenon in my view.” 🔗

«Если ты физически как-то повреждаешь мозг, ты повреждаешь сознание, что, на мой взгляд, подразумевает, что сознание — физическое явление.»

Он отделяет самосознание от сознания и предсказывает, что цифровой интеллект превзойдёт нас в мышлении и симулирует сознание достаточно убедительно, чтобы разница стала непроверяемой, — тот же ход «нет теста — нет разницы», что и в #18:

“It will be self-aware, yes. That’s different from consciousness.” 🔗

«Оно будет самосознающим, да. Это отличается от сознания.»

“digital intelligence will be able to out-think us in every way. And it will suddenly be able to simulate what we consider consciousness. So to the degree that you would not be able to tell the difference.” 🔗

«цифровой интеллект сможет переигрывать нас в мышлении во всём. И он внезапно сможет симулировать то, что мы считаем сознанием. Настолько, что ты не сможешь отличить.»

ИИ нужен внешний арбитр (Экзистенциальный риск ИИ)

Его неизменное средство — регулятор ИИ в общественных интересах, по образцу ведомств, которые уже надзирают за его автомобилями и ракетами:

“Where there is a lack of investment is in AI safety, and there should be, in my view, a government agency that oversees anything related to AI to confirm that it is, does not represent a public safety risk.” 🔗

«Где не хватает инвестиций — это в безопасности ИИ, и должно быть, на мой взгляд, государственное ведомство, которое надзирает за всем, что связано с ИИ, чтобы подтвердить, что это не представляет угрозы для общественной безопасности.»

Он обосновывает призыв разбором из первых принципов того, как регулирование на деле приходит — слишком поздно, после катастрофы, — приводя в пример десятилетия, что автопром сопротивлялся ремням безопасности:

“It was known for a decade or more that seatbelts would have a massive impact on safety and save so many lives and serious injuries. And the car industry fought the requirements to put seatbelts in tooth and nail.” 🔗

«Было известно десятилетие и больше, что ремни безопасности окажут огромное влияние на безопасность и спасут столько жизней и предотвратят тяжёлые травмы. А автопром боролся с требованиями ставить ремни не на жизнь, а на смерть.»

Разум как слоистое железо — «обезьяний мозг» (Лимбико-кортикальная модель)

Полнейшая ранняя формулировка модели, которую разговор 2024 года переизлагает с лексикой «третичного вычислительного слоя», — мозг как два слоя, более умный в услужении более глупому:

“It’s like we’ve got a monkey brain with a computer stuck on it, that’s the human brain.” 🔗

«Это как будто у нас обезьяний мозг с приделанным к нему компьютером — вот что такое человеческий мозг.»

Контринтуитивное направление управления — в этом вся суть: глупый слой главный:

“It’s not the cortex that’s steering the monkey brain, the monkey brain’s steering the cortex.” 🔗

«Не кора рулит обезьяньим мозгом — обезьяний мозг рулит корой.»

Ту же мысль он формулирует ещё острее мгновением позже — умное должно бы управлять глупым, но не управляет:

“it seems like surely the really smart thing should control the dumb thing, but actually the dumb thing controls the smart thing.” 🔗

«казалось бы, наверняка по-настоящему умное должно управлять глупым, но на деле глупое управляет умным.»

И слой, к которому модель движется поверх двух биологических, — здесь зачаток «уже киборг» третичного слоя:

“And then there’s a tertiary layer which will be digital superintelligence.” 🔗

«А ещё есть третичный слой, которым будет цифровой сверхинтеллект.»

Машина подстраивается под мозг, а не наоборот (Neuralink, Симбиоз человека и ИИ)

Его инженерное утверждение о том, где должно лежать бремя подгонки, — принцип проектирования Neuralink, высказанный в 2019 году:

“I think the machine side is far more malleable than the biological side, by a huge amount.” 🔗

«Я думаю, машинная сторона куда более податлива, чем биологическая, — на огромную величину.»

Его образ того, как мало мы сейчас знаем о мозге, — переформулировка, которая мотивирует всю компанию:

“We’ve got fMRI, that’s like putting a stethoscope on the outside of a factory wall, and then putting it all over the factory wall and you can hear the sounds, but you don’t know what the machines are doing really.” 🔗

«У нас есть фМРТ, это как приложить стетоскоп снаружи к заводской стене, и поводить им по всей стене — ты слышишь звуки, но на самом деле не знаешь, что делают станки.»

Сам симбиоз, высказанный как надежда, — две нейросети взаимодействуют, человека берут с собой, даже когда большая часть «нашего» интеллекта становится цифровой:

“we’re a neural net and AI is basically a neural net. So it’s like digital neural net will interface with biological neural net. And hopefully bring us along for the ride. But the vast majority of our intelligence will be digital.” 🔗

«мы нейросеть, и ИИ — по сути нейросеть. Так что цифровая нейросеть будет взаимодействовать с биологической нейросетью. И, будем надеяться, возьмёт нас с собой. Но подавляющая часть нашего интеллекта будет цифровой.»

Сингулярность и «не можешь победить — присоединяйся» (Слияние с ИИ, Экзистенциальный риск ИИ)

Обоснование слияния, изложенное так же прямо, как нигде в вики: люди не смогут переиграть цифровой сверхкомпьютер в мышлении, поэтому ход — присоединиться к нему:

“We will not feel to be smarter than a digital supercomputer. So therefore, if you cannot beat them, join them.” 🔗

«Мы не будем умнее цифрового суперкомпьютера. А значит, не можешь победить — присоединяйся.»

Почему он говорит, что мозговой интерфейс срочен, — встроить его до того, как сингулярность всё дестабилизирует:

“It’s important that Neuralink solves this problem sooner rather than later because the point at which we have digital superintelligence, that’s where we pass the singularity and things become just very uncertain.” 🔗

«Важно, чтобы Neuralink решил эту задачу скорее раньше, чем позже, потому что точка, в которой у нас появляется цифровой сверхинтеллект, — это и есть прохождение сингулярности, и всё становится просто очень неопределённым.»

В том же высказывании он заостряет «неопределённым» до «крайне нестабильным» и формулирует мозговой интерфейс как то, что нужно иметь до сингулярности, чтобы минимизировать экзистенциальный риск для человечества и сознания в том виде, в каком мы его знаем (тот же фрагмент в 21:38).

Автономность как задача о векторном пространстве (Автономное вождение)

Его самое острое раннее утверждение, что беспилот по сути это задача восприятия/представления, а не планирования:

“The hardest thing is having accurate representation of the physical objects in vector space.” 🔗

«Самое трудное — иметь точное представление физических объектов в векторном пространстве.»

“Once you have an accurate vector space representation, the planning and control is relatively easier.” 🔗

«Как только у тебя есть точное представление в векторном пространстве, планирование и управление становятся сравнительно проще.»

Бледно-голубая точка — цивилизация хрупка, сознание — то, что стоит расширять (Светлое будущее человечества, Колонизация Марса)

⚠️ Примечание об атрибуции. В заключительном сегменте Маск зачитывает вслух пассаж Карла Сагана «Бледно-голубая точка» («Look again at that dot…»). Это слова Сагана, а не Маска, и они не цитируются здесь как его убеждения. Блок-цитаты ниже — собственные формулировки Маска вокруг зачитывания.

Его собственное цивилизационное размышление, подсказанное Саганом, — урок о подъёме и падении, теперь глобализованный в единый общий риск:

“Look at the history of civilizations, they rise and they fall, and now civilization is all, it’s globalized. And so civilization, I think now rises and falls together.” 🔗

«Посмотрите на историю цивилизаций — они поднимаются и падают, а теперь цивилизация вся глобализована. И поэтому цивилизация, я думаю, теперь поднимается и падает вместе.»

Космический довод о сроках, который делает сознание редким и шатким:

“if it had taken consciousness 10% longer to evolve, it would never have evolved at all, 10% longer.” 🔗

«если бы сознанию потребовалось на 10% больше времени, чтобы эволюционировать, оно бы вообще не эволюционировало — на 10% дольше.»

Его односложная поправка к словам Сагана «больше некуда… куда наш вид мог бы мигрировать» — марсианский тезис как прямое опровержение:

“This is not true. This is false, Mars.” 🔗

«Это не так. Это неправда — Марс.»

Связи (затронутые страницы)

• Сознание и смерть — дополнена: формулировка 2019 года, что сознание — физическое явление и что научный метод — это тест; ИИ непроверяемо симулирует сознание.
• Лимбико-кортикальная модель — дополнена: полнейшая ранняя формулировка модели — «обезьяний мозг с приделанным компьютером», глупый слой рулит умным и грядущий цифровой «третичный слой».
• Слияние с ИИ — дополнена: «третичный слой… цифровой сверхинтеллект» 2019 года и обоснование слияния «не можешь победить — присоединяйся».
• Экзистенциальный риск ИИ — дополнена: призыв 2019 года к государственному арбитру (с аналогией ремней безопасности) и «сингулярность» как точка нестабильности.
• Neuralink — дополнена: принцип «машина подстраивается под мозг» и переформулировка фМРТ-как-стетоскоп, за два года до формулировки о пропускной способности 2024 года.
• Автономное вождение — дополнена: автономность как задача о представлении в векторном пространстве.
• Светлое будущее человечества — дополнена: цивилизации поднимаются и падают «вместе»; сознание как редкое и шаткое (довод «на 10% дольше»).
• Колонизация Марса — дополнена: Марс как прямое опровержение «больше некуда мигрировать».
• Первопринципы — дополнена: научный метод как тест для реального/познаваемого, его собственными словами 2019 года.
• Илон Маск — дополнена разделом «Что раскрывает Lex Fridman #49 (2019)», нанизывающим вышесказанное как полнейшую раннюю формулировку мировоззрения «разум как железо».
• Симбиоз человека и ИИ — дополнена: предпосылка о податливости машинной стороны и формулировка самого симбиоза «digital neural net will interface with biological neural net… hopefully bring us along for the ride».