Musk Wiki

Концепт

Симбиоз человека и ИИ

ДальшеСлияние с ИИ

Симбиоз человека и ИИ

В беседе с Лексом Фридманом 2024 года Илон Маск излагает ментальную модель, лежащую в основе Neuralink: отношения между людьми и ИИ упираются в пропускную способность, и самое безопасное будущее — то, где человеческий канал достаточно широк, чтобы оставаться в контуре. Это конструктивная, инженерная сторона его тревоги об ИИ-риске — не столько «останови ИИ», сколько «ускорь человека».

Аргумент

Утверждение Маска в том, что ввод/вывод человека поразительно медленный. В среднем за сутки, по его прикидке, человек передаёт меньше одного бита в секунду:

“If you think what is the average bits per second of a human, it is less than one bit per second over the course of a day.” 🔗

«Если задуматься, какова средняя скорость человека в битах в секунду, — это меньше одного бита в секунду на протяжении суток.»

На фоне машины, работающей со скоростью терабиты в секунду, это несоответствие делает человека несущественным в разговоре — его повторяющийся образ — дерево:

“If the AI can communicate at terabits per second, and you’re communicating at bits per second, it’s like talking to a tree.” 🔗

«Если ИИ может общаться со скоростью терабиты в секунду, а ты общаешься со скоростью биты в секунду, это всё равно что разговаривать с деревом.»

Поэтому рычаг, важный для согласования, по его словам, — это скорость человеческого вывода: подними её на порядки — и сможешь удержать человеческое намерение сцепленным с машиной:

“We could better align collective human will with AI if the output rate especially was dramatically increased.” 🔗

«Мы могли бы лучше согласовать коллективную человеческую волю с ИИ, если бы особенно резко выросла скорость вывода.»

Он расширяет образ дерева на саму задачу согласования: низкоскоростному человеку трудно служить, потому что он едва может сказать, чего хочет, — чем больше ты дерево, говорит он, тем меньше кто-либо может понять, чего это дерево хочет (пересказ из того же отрывка).

Зерно 2016 года — «ограничены по пропускной способности»

Рамка пропускной способности — не изобретение 2024 года. В беседе Y Combinator 2016 года — до того, как Neuralink стал публичным, — Маск уже диагностирует человека ровно в этих терминах, ставя интерфейс мозга в число своих главных цивилизационных приоритетов:

“I think having a high bandwidth interface to the brain, we’re currently bandwidth limited.” 🔗

«Думаю, иметь высокоскоростной интерфейс к мозгу [важно] — сейчас мы ограничены по пропускной способности.»

В 2016 году он уже прямо увязывает это с безопасностью ИИ: демократизацию ИИ, по его словам, нужно сочетать с решением высокоскоростного интерфейса к коре. Что добавляет 2024 год — это арифметику (меньше одного бита в секунду, «разговор с деревом») и явный рычаг — повышение скорости человеческого вывода. Ядро утверждения — человеческий канал есть узкое место, и его расширение есть ход в пользу согласования — устойчиво на протяжении восьми лет.

Что это раскрывает

  • Он трактует согласование как инженерную задачу/задачу пропускной способности, а не только как задачу ценностей. Там, где большинство разговоров о безопасности ИИ — о целях и стимулах, отличительный ход Маска — сделать переменной канал коммуникации: первопринципное переформулирование «сохраняй контроль» в «подними измеримую скорость данных».
  • Единица согласования коллективна. Он говорит о коллективной человеческой воле, а не отдельного человека, — то, что нужно удерживать сцепленным с ИИ, есть совокупное намерение человечества, что связывает это с его цивилизационной рамкой.
  • Это оптимистичный двойник его страха. Это тот же взгляд, что и экзистенциальный риск ИИ, прочитанный с другого конца: не замедлять машину, а расширять человека — через слияние и Neuralink.

Связанное