Інтерпретація довгої статті Віталіка: Чому розумні люди повинні дотримуватися "тупих правил"?

Автор: Чжісюн Пан

Стаття “Galaxy Brain Resistance”, опублікована Віталіком кілька тижнів тому, насправді досить складна для розуміння, і я не бачив хороших тлумачень, тож спробую це зробити.

Адже я бачив, що творець терміна Vibe Coding Карпати також прочитав цю статтю і зробив нотатки, отже, в ній напевно є щось особливе.

По-перше, що означають заголовки Galaxy Brain та Resistance, розібравшись із цими термінами, ви зможете зрозуміти, про що йдеться в цій статті.

1️⃣ Переклад Galaxy Brain українською – «Галактичний мозок», але насправді це походить з інтернет-мему (Meme), подібного до зображення (🌌🧠), яке ти, напевно, бачив.

Це спочатку, звичайно, було позитивним, щоб похвалити ідеї іншої сторони як надзвичайно геніальні, тобто розумні. Але згодом, через надмірне використання, воно поступово стало певним іронічним висловом, приблизний зміст якого – «занадто багато думати, логіка зайшла занадто далеко».

А Віталік тут згадує 🌌🧠, зокрема, про таку поведінку, як «використання високого IQ для розумових вправ, щоб наполегливо стверджувати, що безглузді речі мають велике значення». Наприклад:

• Чітко зрозуміло, що скорочення співробітників робиться для економії, але потрібно стверджувати, що це «передача висококваліфікованих кадрів суспільству».

• Явно випускаючи повітряні монети для збору урожаю, вони стверджують, що «надають повноваження глобальній економіці за допомогою децентралізованого управління».

Усе це можна вважати мисленням у стилі «Галактичний мозок».

2️⃣ То що ж таке Resistance (опір)? Це поняття легко заплутати, його можна порівняти з популярним висловом «здатність не піддаватися впливу», або «здатність не дати себе обдурити».

Отже, Galaxy Brain Resistance повинна бути опором до [becoming] Galaxy Brain, тобто: «здатність протистояти (перетворитися на) галактичний мозок (нісенітницю)».

Або, точніше, наскільки легко використовувати стиль мислення / аргументації для «доказу будь-якого висновку, який ви хочете».

Отже, цей «опір» може бути спрямований проти певної «теорії», наприклад,

• Теорія низької опірності (Low Resistance): трохи подумавши, можна перейти до надзвичайно абсурдної логіки «Галактичного мозку».

• Теорія високої опірності (High Resistance): Незалежно від того, як ви її аналізуєте, вона залишається незмінною і важко еволюціонує в абсурдну логіку.

Наприклад, Віталік говорить, що в його ідеальному суспільстві законодавство повинно мати червону лінію: забороняти можна лише тоді, коли можна чітко пояснити, як певна дія завдає шкоди або ризику конкретній жертві. Цей стандарт має високу стійкість до Galaxy Brain, оскільки не приймає такі безмежні або розмиті причини, як «мені суб'єктивно не подобається» або «непристойно».

3️⃣ Віталік у статті також навів багато прикладів, навіть використавши теорії, які ми часто чуємо, такі як «довгостроковість» і «необхідність».

«Довгострокова перспектива» важко протистоїть зазіханню 🌌🧠 формального мислення, оскільки її опір дуже низький, це просто «порожній чек». Оскільки «майбутнє» занадто далеке і занадто розмите.

• Висловлення з високою стійкістю: «Це дерево через 10 років зможе вирости на 5 метрів». Це можна перевірити, це не так просто вигадати.

• Низька опірність “довгостроковості”: “Хоча я зараз маю намір вчинити вкрай аморальний вчинок (наприклад, знищити частину людей або розпочати війну), але це робиться для того, щоб через 500 років людство могло жити в утопічному світі. Після моїх розрахунків, загальна кількість щастя в майбутньому є безмежною, тому теперішні жертви незначні.”

Ти бачиш, лише якщо ти потягнеш час достатньо довго, ти можеш виправдати будь-яке зло в даний момент. Як сказав Віталік: «Якщо твій аргумент може довести, що що завгодно є виправданим, тоді твій аргумент нічого не доводить.»

Проте Віталік також визнає, що «довгостроковість є важливою», він критикує «використання надмірно неясних, непідтверджених майбутніх вигод, щоб закрити очевидну шкоду в даний момент».

Ще одна зона важких втрат – це «необхідність» (Inevitabilism).

Це також є улюбленим прийомом самооборони в Силіконовій долині та технологічному середовищі.

Розмова така: «Заміна людської праці штучним інтелектом є неминучістю історії, навіть якщо я цього не зроблю, це зроблять інші. Тому я зараз радикально розвиваю штучний інтелект не для заробітку, а щоб відповідати історичним тенденціям.»

Де низька стійкість? Вона ідеально розмиває людську відповідальність. Оскільки це «неминуче», то я не несу відповідальності за завдану шкоду.

Це також типова галактична свідомість: упакувати особисті бажання «Я хочу заробити гроші / Я хочу влади» в форму «Я виконую історичне завдання».

4️⃣ Тож що нам робити з цими «пастками розумних людей»?

Ліки, які запропонував Віталік, виявилися несподівано простими, навіть трохи «дурними». Він вважає, що чим розумніші люди, тим більше їм потрібні жорсткі правила, щоб обмежити себе і запобігти тому, щоб їх розумові трюки не вийшли з-під контролю.

По-перше, дотримуйтесь “девіантної етики” (Deontological Ethics), тобто моральних залізних законів дитячого садка.

Не намагайтеся вирішити складні математичні задачі «для майбутнього людства», поверніться до найосновніших принципів:

• Не крадіть

• Не вбивайте невинних людей

• Не шахраюйте

• Поважайте свободу інших

Ці правила мають високу стійкість. Адже вони або чорні, або білі, їх не можна обговорювати. Коли ви намагаєтеся пояснити, чому ви повинні використати кошти користувачів, за великими принципами «довгострокового мислення», ця жорстка правила «не кради» вдарить вас по обличчю: якщо вкрали, то вкрали, не кажіть нічого про велику фінансову революцію.

По-друге, мати правильну «позицію», навіть включаючи фізичне місце.

Як кажуть, дупа визначає голову. Якщо ти щодня крутишся у тому ехо-камері району затоки Сан-Франциско, де всі займаються прискоренням ШІ, тобі буде важко залишатися в ясному розумі. Віталік навіть дав фізичну пораду з високою стійкістю: не живи в районі затоки Сан-Франциско.

5️⃣ Підсумок

Віталік насправді попереджає тих надзвичайно розумних еліт: не думайте, що через ваш високий IQ ви можете обійти прості моральні принципи.

Ті теорії «Галактичного мозку», які звучать так, ніби можуть пояснити все, зазвичай є найбільш небезпечними універсальними виправданнями. Натомість ті правила «високої стійкості», які звучать нудно і догматично, є останнім захистом від самозапевнення.