Interpretação do longo texto de Vitalik: Por que as pessoas inteligentes devem aderir às "regras estúpidas"?

Escrito por: Zhixiong Pan

O artigo “Galaxy Brain Resistance” que Vitalik publicou há algumas semanas é na verdade bastante obscuro e difícil de entender, e não vi boas interpretações, então vou tentar.

Afinal, eu vi que Karpathy, o criador do termo Vibe Coding, também leu este artigo e fez anotações, então deve haver algo de especial nisso.

Primeiro, vamos falar sobre o que significam os termos Galaxy Brain e Resistance. Depois de entender esse título, você conseguirá compreender do que se trata este artigo.

1️⃣ A tradução de Galaxy Brain em chinês é “银河大脑”, mas na verdade vem de um meme da internet, semelhante a uma imagem (🌌🧠) combinada, que você com certeza já viu.

No início, isso era, claro, um elogio, usado para louvar a ideia do outro como sendo muito brilhante, ou seja, inteligente. Mas depois, com o uso excessivo, gradualmente se tornou uma forma de ironia, significando algo como “pensou demais, a lógica foi longe demais.”

E Vitalik menciona aqui 🌌🧠, referindo-se a esse tipo de “usar uma alta inteligência para fazer ginástica mental, fazendo com que coisas sem sentido pareçam ter um grande sentido”. Por exemplo:

• É claramente uma grande demissão para economizar dinheiro, mas insistem em dizer que é “uma forma de fornecer talentos de alta qualidade para a sociedade”.

• É claro que estão a explorar moedas sem valor, mas afirmam que estão “a capacitar a economia global com governança descentralizada”.

Podem ser considerados como um pensamento do tipo “Cérebro Galáctico”.

2️⃣ O que significa a Resistência? Este conceito pode ser facilmente confundido, podendo ser comparado de forma popular a “a capacidade de não ser influenciado” ou “a capacidade de não ser enganado.”

Portanto, a Resistência Galaxy Brain deve ser a Resistência a [becoming] Galaxy Brain, ou seja: “a capacidade de resistir (evoluir para) ao cérebro galáctico (bobagem)”.

Ou, mais precisamente, a dificuldade de usar um determinado estilo de pensamento / argumentação para “provar qualquer conclusão que você queira”.

Portanto, essa “resistência” pode ser dirigida a uma “teoria” específica, como,

• Teoria de Baixa Resistência: Com uma leve reflexão, pode evoluir para uma lógica extremamente absurda de “Cérebro Galáctico”.

• Teoria da Alta Resistência: Não importa como você analise, ela permanece a mesma, sendo difícil evoluir para uma lógica absurda.

Por exemplo, Vitalik diz que a lei social ideal deveria ter uma linha vermelha: só pode ser proibido um comportamento quando se consegue explicar claramente como esse comportamento causa dano ou risco a vítimas específicas. Este padrão tem uma grande resistência Galaxy Brain, pois não aceita razões vagamente definidas ou infinitamente flexíveis como “não gosto subjetivamente” ou “é imoral”.

3️⃣ Vitalik também citou muitos exemplos no artigo, até mesmo usando teorias que ouvimos frequentemente, como “long-termismo” e “determinismo”.

"O “long-termismo” é difícil de resistir à erosão do pensamento 🌌🧠 estilo, porque sua resistência é extremamente baixa, é praticamente um “cheque em branco”. Porque o “futuro” é muito distante e muito vago.

• Afirmação de alta resistência: “Esta árvore pode crescer 5 metros após 10 anos”. Isso é verificável e não é fácil de inventar.

• Baixa resistência ao “long-termismo”: “Embora eu esteja prestes a fazer algo extremamente antiético (como eliminar uma parte da população ou iniciar uma guerra), isso é para que a humanidade possa viver uma vida utópica daqui a 500 anos. Com base nos meus cálculos, a totalidade da felicidade futura é infinita, portanto, os sacrifícios atuais são desprezíveis.”

Vê, desde que estendas o tempo o suficiente, podes justificar qualquer ato maligno no presente. Como disse Vitalik: “Se o teu argumento pode provar que qualquer coisa é justificada, então o teu argumento não prova nada.”

No entanto, Vitalik também reconhece que “o longo prazo é importante”, criticando o uso de “benefícios futuros excessivamente vagos e não verificáveis para encobrir os danos claros do presente.”

Outra área severamente afetada é o “inevitabilismo”.

Esta é também a técnica de defesa favorita do Vale do Silício e do mundo da tecnologia.

A fala é a seguinte: “A substituição do trabalho humano pela IA é uma inevitabilidade histórica, mesmo que eu não o faça, outros o farão. Portanto, estou agora a desenvolver a IA de forma radical não para ganhar dinheiro, mas para acompanhar a corrente histórica.”

Onde está a baixa resistência? Ela dissolve perfeitamente o senso de responsabilidade das pessoas. Uma vez que é “inevitável”, então não preciso ser responsável pelos danos que causei.

Esta também é uma típica mente galáctica: empacotar o desejo pessoal de “quero ganhar dinheiro / quero ter poder” como “estou a cumprir uma missão histórica”.

4️⃣ Então, o que devemos fazer diante dessas “armadilhas dos inteligentes”?

A cura proposta por Vitalik é surpreendentemente simples, até um pouco “tola”. Ele acredita que quanto mais inteligente a pessoa, mais regras de alta resistência são necessárias para se restringir, a fim de evitar que suas acrobacias mentais saiam do controle.

Primeiro, defender a “ética deontológica”, que é a regra moral básica de nível de jardim de infância.

Não se preocupe em calcular questões matemáticas complexas sobre “pelo futuro da humanidade”; volte aos princípios mais rígidos:

• Não roube

• Não mate pessoas inocentes

• Não enganar

• Respeitar a liberdade dos outros

Estas regras têm uma resistência extremamente alta. Porque são preto ou branco, não há negociação. Quando você tenta usar a grande ideia do “long-termismo” para explicar por que você está desviando fundos dos usuários, a regra rígida de “não roubar” vai te dar um tapa na cara: roubar é roubar, não venha com essa de que é por uma grande revolução financeira.

Em segundo lugar, ter a “posição” correta, incluindo até mesmo a localização física.

Diz o ditado que o traseiro decide a cabeça. Se você passar o dia todo naquele eco chamber da área da baía de São Francisco, cercado por pessoas que defendem o aceleracionismo de IA, será difícil manter a clareza. Vitalik até deu um conselho de alta resistência em termos físicos: não more na área da baía de São Francisco.

5️⃣ Resumo

Vitalik este artigo na verdade está alertando aqueles elites extremamente inteligentes: não pense que pode ignorar a simples linha de moralidade só porque você é inteligente.

Aquelas teorias do “cérebro galáctico” que parecem ser capazes de explicar tudo, muitas vezes são as desculpas universais mais perigosas. Por outro lado, aquelas regras de “alta resistência” que parecem rígidas e dogmáticas, são a nossa última linha de defesa contra a autoenganação.