Interpretación del extenso texto de Vitalik: ¿Por qué las personas inteligentes deben adherirse a las "reglas tontas"?

Escrito por: Zhixiong Pan

El artículo “Galaxy Brain Resistance” publicado por Vitalik hace unas semanas es en realidad bastante oscuro y difícil de entender, y no he visto una buena interpretación, así que intentaré hacerlo.

Después de todo, vi que el creador del término Vibe Coding, Karpathy, también leyó este artículo y tomó notas, por lo que debe haber algo especial.

Primero hablemos del título, qué significan Galaxy Brain y Resistance. Una vez que hayas interpretado este título, podrás entender de qué trata aproximadamente este artículo.

1️⃣ La traducción al chino de Galaxy Brain es “脑银河”, pero en realidad proviene de un meme de internet, similar a la imagen de (🌌🧠) combinada, que seguramente has visto.

Al principio, esto era claramente un término positivo, utilizado para alabar la genialidad de la idea de alguien, es decir, para decir que era inteligente. Pero luego, con el uso excesivo, se ha convertido gradualmente en una especie de ironía, con el significado aproximado de “estás pensando demasiado, la lógica se ha desviado demasiado.”

Y Vitalik menciona aquí 🌌🧠, refiriéndose a ese tipo de comportamiento de “usar una alta inteligencia para hacer gimnasia mental, insistiendo en que las cosas sin sentido tengan un gran sentido”. Por ejemplo:

• Claramente es para ahorrar dinero con grandes despidos, pero tienen que decir que es “para proporcionar talentos de alta calidad a la sociedad”.

• Afirmando que están “empoderando la economía global a través de la gobernanza descentralizada”, cuando en realidad están cortando el césped con monedas de aire.

Todos se pueden considerar como un pensamiento de “cerebro galáctico”.

2️⃣ ¿Qué significa entonces Resistance (resistencia)? Este concepto puede ser confuso, pero en términos populares se puede comparar con “la capacidad de no dejarse llevar por el ritmo” o “la capacidad de no ser engañado”.

Por lo tanto, la resistencia Galaxy Brain debería ser resistencia a [becoming] Galaxy Brain, es decir: “la capacidad de resistir (evolucionar hacia) el cerebro galáctico (absurdo)”.

O más precisamente, se utiliza para describir cuán fácil es abusar de cierto estilo de pensamiento / argumentación para “demostrar cualquier conclusión que desees”.

Por lo tanto, esta “resistencia” puede ser contra una “teoría”, por ejemplo,

• La teoría de la baja resistencia (Low Resistance): Con un pequeño análisis, puede evolucionar hacia una lógica extremadamente absurda de “cerebro galáctico”.

• La teoría de la Alta Resistencia: No importa cómo lo analices, se mantiene igual, es difícil que evolucione hacia una lógica absurda.

Por ejemplo, Vitalik dice que la ley de la sociedad ideal que imagina debería tener una línea roja: solo se puede prohibir un comportamiento si se puede explicar claramente cómo causa daño o riesgo a víctimas específicas. Este estándar tiene mucha resistencia de Galaxy Brain, ya que no acepta razones indefinidas o vagas como “no me gusta subjetivamente” o “es inmoral”.

3️⃣ Vitalik también citó muchos ejemplos en el artículo, incluso utilizando teorías que solemos escuchar, como “el largo plazo” y “el determinismo”.

"El “long-termismo” es difícil de resistir a la erosión del pensamiento estilo 🌌🧠, porque su resistencia es muy baja, es prácticamente un “cheque en blanco”. Porque el “futuro” es demasiado lejano y demasiado difuso.

• Afirmación de alta resistencia: “Este árbol puede crecer 5 metros en 10 años”. Esto es verificable, no es fácil de inventar.

• Baja resistencia al “long-termismo”: “Aunque ahora voy a hacer algo extremadamente inmoral (como eliminar a una parte de la población o iniciar una guerra), esto es para que la humanidad pueda vivir en un futuro utópico dentro de 500 años. Según mis cálculos, la cantidad total de felicidad en el futuro es infinita, por lo que el sacrificio actual es insignificante.”

Mira, mientras alargues el tiempo lo suficiente, puedes justificar cualquier mal hecho en el presente. Como dijo Vitalik: “Si tu argumento puede demostrar que cualquier cosa es legítima, entonces tu argumento no prueba nada.”

Sin embargo, Vitalik también reconoce que “a largo plazo es importante”; critica “el uso de beneficios futuros excesivamente vagos e inverificables para ocultar el daño claro en el presente.”

Otra zona de desastre es el “inevitabilismo”.

Esta también es la técnica de defensa más utilizada por Silicon Valley y el mundo tecnológico.

El discurso es el siguiente: “La sustitución del trabajo humano por la IA es una inevitabilidad histórica; incluso si yo no lo hago, otros lo harán. Así que ahora desarrollo la IA de manera radical no para ganar dinero, sino para adaptarme a la corriente histórica.”

¿Dónde está la baja resistencia? Destruye perfectamente el sentido de responsabilidad de las personas. Dado que es “inevitable”, no necesito asumir la responsabilidad por el daño que he causado.

Esta también es una típica mente galáctica: empaquetar el deseo personal de “quiero ganar dinero / quiero tener poder” como “estoy cumpliendo una misión histórica”.

4️⃣ Entonces, ¿qué debemos hacer frente a estas “trampas de los inteligentes”?

La solución que propone Vitalik es sorprendentemente simple, incluso un poco “torpe”. Él cree que cuanto más inteligente es una persona, más reglas de alta resistencia necesita para restringirse a sí misma y evitar que sus habilidades mentales se descontrolen.

Primero, adherirse a la “ética deontológica”, que son las leyes morales básicas a nivel de jardín de infancia.

Deja de calcular problemas matemáticos complejos de “por el futuro de toda la humanidad”, regresa a los principios más rígidos:

• No robes

• No mates a personas inocentes

• No estafes

• Respeta la libertad de los demás

Estas reglas son extremadamente resistentes. Porque son blanco o negro, no son negociables. Cuando intentas explicar con grandes discursos sobre “el pensamiento a largo plazo” por qué estás desviando fondos de los usuarios, la rígida regla de “no robar” te dará un golpe directo: robar es robar, no hables de una gran revolución financiera.

En segundo lugar, tener la «posición» correcta, incluso incluyendo la ubicación física.

Como dice el refrán, el trasero decide la cabeza. Si pasas todos los días en esa sala de ecos de la Bahía de San Francisco, rodeado de personas que promueven el aceleracionismo de la IA, te será difícil mantenerte alerta. Vitalik incluso dio un consejo de alta resistencia a nivel físico: no vivas en la Bahía de San Francisco.

5️⃣ Resumen

Vitalik este artículo en realidad está advirtiendo a aquellos élites extremadamente inteligentes: no piensen que pueden eludir las simples líneas morales solo porque tienen un alto coeficiente intelectual.

Las teorías del “cerebro galáctico” que parecen poder explicar todo son a menudo las excusas universales más peligrosas. En cambio, aquellas reglas de “alta resistencia” que suenan rígidas y dogmáticas son la última línea de defensa para evitar que nos engañemos a nosotros mismos.