Y Combinator (2016)

Интервьюер: Сэм Альтман (тогда президент YC Group), для серии How to Build the Future.
Формат: Снятая на видео беседа / подкаст, ~21 минута.
Дата: 15 сентября 2016.
Уровень доверия: verified (Tier 1) — официальная стенограмма в блоге Y Combinator с таймкодами.
Цитирование: каждая блок-цитата привязана к официальной стенограмме по адресу https://www.ycombinator.com/blog/elon-musk-on-how-to-build-the-future через фрагмент #:~:text=, декодированная часть которого является дословной подстрокой стенограммы. Интервьюер — Сэм Альтман; здесь цитируются только реплики Илона Маска — ни одно слово Альтмана не приписывается Маску.

Краткое содержание

Короткое, необычайно концентрированное интервью того периода, когда Илон Маск только что стал сооснователем OpenAI («компании, которой полгода» на тот момент) и вот-вот основал бы Neuralink. Почти каждая тема, которую вики отслеживает по более поздним, длинным источникам, уже присутствует здесь в зачаточном виде — что делает 2016 год полезной точкой отсчёта для измерения того, как менялось его мышление.

Самый ценный материал собирается в четырёх местах. О том, чем заниматься, Маск даёт свою самую ясную раннюю формулировку эвристики полезности — прирост полезности, умноженный на число затронутых людей, «площадь под кривой» — и ранжирует цивилизационные приоритеты (сначала ИИ, затем генетика, затем интерфейс мозга). Об ИИ он называет его главным риском ближайшего времени и излагает своё средство 2016 года: демократизацию технологий ИИ, чтобы никто один не контролировал их, — явная причина, по которой он стал сооснователем OpenAI, разительно контрастирующая с его поздней горечью после того, как организация стала закрытой и коммерческой. О мозге он описывает людей как «ограниченных по пропускной способности» и набрасывает симбиоз ИИ и человека — высокоскоростной нейроинтерфейс, ставший Neuralink, изложенный за год до того, как компания стала публичной. И о психологии он откровенен насчёт страха: он чувствует его «весьма сильно», использует фатализм (принятие вероятностей), чтобы его уменьшить, и действует вопреки ему — плюс взгляд на энтропию/упадок на цивилизацию (технология улучшается, только если люди борются за её улучшение).

Ключевые цитаты (дословно, с привязкой к стенограмме — только Илон Маск)

Чем заниматься — полезность важнее «изменения мира»

Его первый ход: тест — это польза, а не грандиозность; даже малое добро, распространённое широко, засчитывается.

“Stuff doesn’t need to change the world to be good.” 🔗

«Вещам не обязательно менять мир, чтобы быть хорошими.»

Эвристика, которую, по его словам, он оптимизировал в собственной юности:

“That’s the optimization, what can I do that would actually be useful?” 🔗

«Вот в чём оптимизация: что я могу сделать такого, что действительно было бы полезным?»

Формула, лежащая за этим, — влияние на человека, умноженное на охват:

“Whatever this thing is that you’re trying to create, what would be the utility delta compared to the current state of the art times how many people it would affect.” 🔗

«Что бы это ни было, что ты пытаешься создать, — каков прирост полезности по сравнению с текущим уровнем, умноженный на то, сколько людей это затронет.»

ИИ как главный риск ближайшего времени

Его ранжирование цивилизационных приоритетов ставит ИИ на первое место:

“But in terms of things that I think are most likely to affect the future of humanity, I think AI is probably the single biggest item in the near term that’s likely to affect humanity.” 🔗

«Но что касается вещей, которые, как я думаю, с наибольшей вероятностью повлияют на будущее человечества, — я думаю, что ИИ — вероятно, самый крупный пункт ближайшего времени, способный повлиять на человечество.»

Планка, которую он задаёт для правильного исхода, — тест с хрустальным шаром:

“It’s very important that we have the advance of AI in a good way that is something that if you could look into a crystal ball and see the future you would like that outcome.” 🔗

«Очень важно, чтобы развитие ИИ шло хорошим путём — таким, что, заглянув в хрустальный шар и увидев будущее, ты бы одобрил этот исход.»

Его средство 2016 года — распространить технологию так, чтобы никто один её не контролировал:

“is that we achieve democratization of AI technology, meaning that no one company or small set of individuals has control over advanced AI technology.” 🔗

«…это чтобы мы достигли демократизации технологий ИИ — то есть чтобы ни одна компания и ни малая группа лиц не имели контроля над передовыми технологиями ИИ.»

Зачем существует OpenAI, в его изложении, — минимизация экзистенциального риска:

“I think people really believe in the mission. I think it’s important and it’s about minimizing the risk of existential harm in the future.” 🔗

«Думаю, люди действительно верят в миссию. Думаю, это важно, и речь идёт о минимизации риска экзистенциального вреда в будущем.»

Мозг как задача пропускной способности — зерно Neuralink

За годы до большинства источников он уже описывает человека как ограниченного по пропускной способности:

“I think having a high bandwidth interface to the brain, we’re currently bandwidth limited.” 🔗

«Думаю, иметь высокоскоростной интерфейс к мозгу [важно] — сейчас мы ограничены по пропускной способности.»

Слияние, набросанное как решение для медленного канала между кортексом и машиной:

“So if we can effectively merge with AI by improving the neural link between your cortex and the digital extension of yourself, which already exists, it just has a bandwidth issue.” 🔗

«Так что, если мы сможем эффективно слиться с ИИ, улучшив нейросвязь между твоим кортексом и цифровым продолжением тебя самого, которое уже существует, — у него просто есть проблема пропускной способности.»

Пункт назначения — человек и ИИ, слитые воедино:

“And then effectively you become an AI human symbiote.” 🔗

«И тогда ты, по сути, становишься симбиотом ИИ и человека.»

Как это решает проблему контроля — стирая границу «мы против него»:

“We don’t have to worry about some evil dictator AI because we are the AI, collectively.” 🔗

«Нам не придётся беспокоиться о каком-то злом ИИ-диктаторе, потому что мы — это ИИ, коллективно.»

Страх, фатализм и энтропия

Он прямо говорит, что бесстрашие, которое в нём видят другие, — не отсутствие страха:

“But there are just times when something is important enough, you believe in it enough that you do it in spite of the fear.” 🔗

«Но просто бывают моменты, когда что-то достаточно важно, ты достаточно в это веришь, что делаешь это вопреки страху.»

Его заявленный механизм совладания — фатализм, принятие шансов:

“Yeah, you know something that can be helpful is fatalism.” 🔗

«Да, знаешь, что может помочь, так это фатализм.»

Механизм, изложенный явно:

“If you just accept the probabilities, then that diminishes fear.” 🔗

«Если ты просто принимаешь вероятности, это уменьшает страх.»

Его взгляд на технологический прогресс как на то, за что приходится бороться против упадка:

“It only gets better if smart people work like crazy to make it better.” 🔗

«Оно становится лучше, только если умные люди работают как сумасшедшие, чтобы сделать его лучше.»

Принцип, который он выводит из падения цивилизаций:

“So I think, sure, let’s bear in mind that entropy is not on your side.” 🔗

«Так что, думаю, конечно, будем помнить, что энтропия не на твоей стороне.»

Инженер, а не бизнесмен

На вопрос, как он проводит время, он представляет себя прежде всего инженером — и указывает на завод как на более трудную задачу:

“Because the biggest company I’ve had this year is that what really matters is the machine that builds the machine, the factory.” 🔗

«Потому что главное открытие этого года для меня в том, что по-настоящему важна машина, которая строит машину, — завод.»

Связи (затронутые страницы)

Илон Маск — расширена разделом «Что раскрывает Y Combinator 2016»: эвристика полезности, средство демократизации ИИ образца 2016 года, ранняя рамка пропускной способности мозга/симбиота, страх/фатализм и энтропийный взгляд на цивилизацию.
Сэм Альтман — создана: интервьюер, сооснователь OpenAI и главный визави Маска в ранней истории OpenAI.
Максимизация полезности — создана: эвристика «прирост полезности × число затронутых людей / площадь под кривой» для выбора того, чем заниматься.
Экзистенциальный риск ИИ — расширена позицией 2016 года: ИИ как главный риск ближайшего времени, демократизация как средство и OpenAI как механизм снижения экзистенциального риска (в контрасте с его поздним вердиктом из #400).
Слияние с ИИ — расширена формулировкой 2016 года «симбиот ИИ и человека» / «мы — это ИИ, коллективно», самым ранним изложением тезиса о слиянии в вики.
Симбиоз человека и ИИ — расширена зерном 2016 года «ограничены по пропускной способности» / «высокоскоростной интерфейс к мозгу» позднейшего аргумента о пропускной способности.
Neuralink — расширена доколомпанийной (2016) формулировкой идеи интерфейса мозга, ставшей Neuralink.
Страх неудачи — расширена цитируемым от первого лица рассказом 2016 года: страх чувствуется «весьма сильно», фатализм как инструмент, который его уменьшает, действие «вопреки страху».
Первопринципы — расширена аргументом об энтропии/упадке: технология улучшается, только если люди борются за её улучшение.