Interprétation du long article de Vitalik : Pourquoi les gens intelligents doivent-ils adhérer aux « règles stupides » ?

Rédigé par : Zhixiong Pan

L'article de Vitalik publié il y a quelques semaines, intitulé « Galaxy Brain Resistance », est en fait assez obscur et je n'ai pas vu de bonne interprétation, alors je vais essayer.

Après tout, j'ai vu que Karpathy, le créateur du terme Vibe Coding, a également lu cet article et pris des notes, il doit donc y avoir quelque chose de spécial.

Tout d'abord, parlons de ce que signifie le titre Galaxy Brain et Resistance. Une fois que vous aurez déchiffré ce titre, vous comprendrez à peu près de quoi parle cet article.

1️⃣ La traduction de Galaxy Brain en chinois est « 银河大脑 », mais en réalité, cela vient d'un mème Internet, similaire à l'image de (🌌🧠) fusionnée ensemble, que vous avez sûrement déjà vue.

Au départ, c'était bien sûr un terme positif, utilisé pour louer l'idée brillante de l'autre, c'est-à-dire intelligente. Mais plus tard, avec l'abus de son utilisation, cela s'est progressivement transformé en une sorte d'ironie, signifiant à peu près “tu penses trop, ta logique est trop éloignée.”

Et Vitalik mentionne ici 🌌🧠, se référant à ce type de comportement qui « utilise une grande intelligence pour faire des exercices mentaux, affirmant que des choses illogiques ont en réalité beaucoup de sens ». Par exemple :

• C'est clairement pour économiser de l'argent en faisant de gros licenciements, mais il faut absolument dire que c'est « pour fournir des talents de haute qualité à la société ».

• Clairement, c'est un projet de monnaie sans valeur qui exploite les investisseurs, mais ils prétendent « habiliter l'économie mondiale par la gouvernance décentralisée ».

On peut tous les considérer comme une pensée de type « cerveau galactique ».

2️⃣ Qu'est-ce que cela signifie, la résistance ? Ce concept peut être facilement déroutant, et pour le dire de manière populaire, on peut le comparer à la “capacité à ne pas se laisser influencer” ou à la “capacité à ne pas se faire berner”.

Ainsi, la Galaxy Brain Resistance devrait être la résistance au [becoming] Galaxy Brain, c'est-à-dire : « la capacité de résister (à l'évolution en) Galaxy Brain (absurdité). »

Ou plus précisément, à quel point il est facile d'abuser d'un certain style de pensée / d'argumentation pour « prouver n'importe quelle conclusion que vous voulez ».

Donc cette “résistance” peut être dirigée contre une certaine “théorie”, par exemple,

• La théorie de la résistance faible (Low Resistance) : un léger examen peut se transformer en une logique extrêmement absurde du « cerveau galactique ».

• La théorie de la haute résistance (High Resistance) : Peu importe comment vous l'analysez, elle reste la même, difficile à évoluer vers une logique absurde.

Par exemple, Vitalik a dit que la loi dans la société idéale devrait avoir une ligne rouge : on ne peut interdire un comportement que si l'on peut expliquer de manière claire comment il cause du tort ou un risque à des victimes spécifiques. Ce critère est très résistant au Galaxy Brain, car il n'accepte pas des raisons vagues ou extensibles telles que « je n'aime pas subjectivement » ou « cela nuit à la moralité ».

3️⃣ Vitalik a également cité de nombreux exemples dans son article, en utilisant même des théories que nous entendons souvent, comme le « long-termisme » et le « déterminisme ».

Le “long-termisme” est difficile à résister à l'érosion de la pensée 🌌🧠 de type, car sa résistance est très faible, c'est presque un “chèque en blanc”. Parce que le “futur” est trop lointain et trop flou.

• Affirmation de haute résistance : « Cet arbre pourra atteindre 5 mètres de hauteur dans 10 ans ». C'est vérifiable, il n'est pas facile de raconter des histoires.

• La « long-termisme » à faible résistance : « Bien que je sois sur le point de faire quelque chose de très immoral (comme éliminer une partie de la population ou déclencher une guerre), c'est pour que l'humanité puisse vivre dans une utopie dans 500 ans. D'après mes calculs, le bonheur total futur est infini, donc les sacrifices actuels sont négligeables. »

Tu vois, tant que tu prolonges le temps suffisamment longtemps, tu peux défendre n'importe quel acte malveillant du moment. Comme le dit Vitalik : « Si ton argument peut prouver que n'importe quoi est légitime, alors ton argument ne prouve rien du tout. »

Cependant, Vitalik admet également que « le long terme est important ». Il critique « l'utilisation de bénéfices futurs excessivement vagues et non vérifiables pour masquer des dommages clairs à l'heure actuelle ».

Un autre secteur touché est le « déterminisme » (Inevitabilism).

C'est aussi la technique d'autodéfense préférée de la Silicon Valley et du milieu technologique.

Le discours est le suivant : « L'IA remplace le travail humain, c'est une nécessité historique. Même si je ne le fais pas, d'autres le feront. C'est pourquoi je développe actuellement l'IA de manière radicale, non pas pour gagner de l'argent, mais pour suivre le courant de l'histoire. »

Où la résistance est-elle faible ? Elle dissout parfaitement le sens des responsabilités des gens. Puisque c'est “inévitable”, je n'ai donc pas besoin d'assumer la responsabilité des dégâts que j'ai causés.

C'est aussi un exemple typique de cerveau galactique : transformer le désir personnel de « Je veux gagner de l'argent / Je veux avoir le pouvoir » en « J'exécute la tâche de l'histoire ».

4️⃣ Alors, face à ces « pièges des gens intelligents », que devrions-nous faire ?

Le remède proposé par Vitalik est étonnamment simple, presque « bête ». Il estime que plus une personne est intelligente, plus elle a besoin de règles robustes pour se contraindre et éviter de perdre le contrôle de ses acrobaties mentales.

Premièrement, tenir fermement à l'« éthique déontologique », c'est-à-dire aux lois morales strictes de niveau maternelle.

Ne vous cassez pas la tête avec des équations mathématiques complexes sur « l'avenir de l'humanité », revenez aux principes les plus stricts :

• Ne pas voler

• Ne tuez pas des innocents

• Ne pas escroquer

• Respecter la liberté des autres

Ces règles sont d'une résistance extrême. Parce qu'elles sont noires ou blanches, il n'y a pas de place pour la négociation. Lorsque vous essayez d'expliquer pourquoi vous détournez les fonds des utilisateurs avec des grands principes de « long-termisme », cette règle rigide « ne volez pas » vous frappe directement au visage : voler, c'est voler, ne parlez pas de la grande révolution financière.

Deuxièmement, détenir la bonne « position », y compris la position physique.

Comme on dit, le derrière détermine la tête. Si vous traînez tous les jours dans cette chambre d'écho de la région de la baie de San Francisco, entouré de personnes obsédées par l'accélération de l'IA, il est difficile de rester lucide. Vitalik a même donné un conseil de haute résistance sur le plan physique : ne pas vivre dans la région de la baie de San Francisco.

5️⃣ Résumé

Cet article de Vitalik est en fait un avertissement pour ces élites extrêmement intelligentes : ne pensez pas qu'en raison de votre QI élevé, vous pouvez contourner les règles morales simples.

Les théories du « cerveau galactique » qui semblent pouvoir expliquer tout sont souvent les excuses universelles les plus dangereuses. Au contraire, ces règles « à haute résistance » qui peuvent sembler rigides et dogmatiques sont notre dernière ligne de défense contre l'auto-tromperie.