Максимизация полезности

Эвристика, которую Илон Маск даёт в беседе Y Combinator 2016 года для решения о том, чем заниматься: максимизируй полезность, определяемую как размер вносимого тобой улучшения, умноженный на число людей, которых оно достигает. Это решающее правило, лежащее под грандиозными миссиями, — тест, по которому проект-кандидат вообще заслуживает усилий.

Правило

На вопрос, как человеку понять, как быть наиболее полезным, Маск формулирует это почти как формулу — влияние на человека, умноженное на охват:

“Whatever this thing is that you’re trying to create, what would be the utility delta compared to the current state of the art times how many people it would affect.” 🔗

«Что бы это ни было, что ты пытаешься создать, — каков прирост полезности по сравнению с текущим уровнем, умноженный на то, сколько людей это затронет.»

Геометрический образ, который он использует, — площадь под кривой: большое улучшение для немногих и крошечное улучшение для огромного числа людей могут дать одинаковый счёт:

“Area under the curve would actually be roughly similar for those two things, so it’s actually really about trying to be useful.” 🔗

«Площадь под кривой на самом деле была бы примерно одинаковой для этих двух вещей, так что в действительности всё сводится к попытке быть полезным.»

Принципиально, что правило явно допускает малую работу. Меняющая мир амбиция не требуется; скромное добро, распространённое широко, годится:

“Stuff doesn’t need to change the world to be good.” 🔗

«Вещам не обязательно менять мир, чтобы быть хорошими.»

“if it has a small amount of good for a large number of people, that’s fine.” 🔗

«если это даёт немного добра большому числу людей — это нормально.»

Он формулирует это как то, что сам оптимизировал в молодости, — полезность, а не престиж и даже не меняющий мир масштаб:

“That’s the optimization, what can I do that would actually be useful?” 🔗

«Вот в чём оптимизация: что я могу сделать такого, что действительно было бы полезным?»

Что это раскрывает

• Это количественное решающее правило, а не лозунг. «Прирост полезности, умноженный на число затронутых людей» — это ход в духе первопринципов: превратить расплывчатый вопрос «чем мне заняться?» в произведение двух оцениваемых величин. Грандиозные цивилизационные миссии тогда — лишь те случаи, где оба множителя огромны.
• Оно отделяет «полезное» от «меняющего мир». Распространённое неверное прочтение Маска в том, что он уважает только работу цивилизационного масштаба. Здесь он явно говорит обратное — малое улучшение в большом масштабе по-настоящему хорошо. Миссии следуют из математики, а не из презрения к обычной работе.
• Оно переформулирует влияние как пропускную способность результата. Образ «площади под кривой» един с тем, как он позже отвечает, что́ оптимизирует, — сколько полезных дел он может сделать, — и с его презрением к таланту, направленному на малозначимые задачи. Единица всегда — полезный результат, проинтегрированный по людям.
• Это вышестоящий фильтр для всего остального. Прежде работы над ИИ, энергетической миссии или ставок видового масштаба именно этот тест их отбирает: каждая из них — место, где произведение влияния и охвата максимально.

Связи

• Первопринципы — превращение «чем мне заняться?» в оцениваемое произведение.
• Интенсивность работы — полезность, позже переформулированная как пропускная способность: сколько полезных дел сделано.
• Неправильное распределение таланта — негативное пространство: талант, направленный туда, где площадь под кривой мала.
• Правильно поставленный вопрос — полезность как правильный вопрос для оптимизации, до всякого ответа.
• Светлое будущее человечества · Экзистенциальный риск ИИ · Миссия устойчивой энергетики — миссии, которые отбирает это правило.
• Сущности: Илон Маск · Сэм Альтман
• Источники: Y Combinator (2016)