Interpretasi tulisan panjang Vitalik: Mengapa orang pintar harus mematuhi "aturan bodoh"?

Penulis: Zhixiong Pan

Artikel yang diterbitkan Vitalik beberapa minggu yang lalu berjudul “Galaxy Brain Resistance” sebenarnya cukup sulit dipahami, dan saya juga tidak melihat penafsiran yang baik, jadi saya akan mencoba.

Bagaimanapun, saya melihat pencipta istilah Vibe Coding, Karpathy, juga membaca artikel ini dan mencatat, pasti ada sesuatu yang istimewa.

Pertama-tama, mari kita bahas apa arti dari judul ini yaitu Galaxy Brain dan Resistance. Setelah memahami judul ini, Anda akan dapat mengerti kira-kira apa yang dibahas dalam artikel ini.

1️⃣ Terjemahan Galaxy Brain dalam bahasa Mandarin adalah “Galaksi Otak”, tetapi sebenarnya berasal dari sebuah meme internet, mirip dengan gambar (🌌🧠) yang digabungkan, yang pasti sudah kamu lihat.

Awalnya tentu saja ini memiliki makna positif, digunakan untuk memuji ide orang lain yang sangat brilian, yang berarti cerdas. Namun seiring dengan penyebaran penggunaannya, secara bertahap berubah menjadi semacam ironi, dengan makna kira-kira “terlalu berpikir, logika yang terlampau jauh.”

Dan Vitalik di sini menyebutkan 🌌🧠, yang merujuk pada perilaku “menggunakan kecerdasan tinggi untuk berolahraga pikiran, memaksakan hal-hal yang tidak masuk akal menjadi masuk akal”. Misalnya:

• Jelas-jelas untuk menghemat biaya dengan pemutusan hubungan kerja besar-besaran, tetapi tetap harus mengatakan bahwa itu adalah “mengirimkan talenta berkualitas tinggi ke masyarakat.”

• Jelas-jelas adalah koin angin yang merugikan para investor, tetapi mengklaim “memberdayakan ekonomi global dengan pemerintahan terdesentralisasi.”

Semua bisa dianggap sebagai pemikiran “Otak Galaksi”.

2️⃣ Apa itu Resistance (ketahanan)? Konsep ini bisa sangat membingungkan. Dalam istilah populer, bisa disamakan dengan “kemampuan untuk tidak terpengaruh oleh orang lain”, atau “kemampuan untuk tidak dibohongi”.

Jadi Galaxy Brain Resistance harus berarti Resistance to [becoming] Galaxy Brain yaitu: “kemampuan untuk menahan (berubah menjadi) Galaxy Brain (omong kosong).”

Atau lebih tepatnya, digunakan untuk menggambarkan seberapa sulitnya gaya pemikiran / argumen tertentu disalahgunakan untuk “membuktikan kesimpulan apa pun yang Anda inginkan.”

Jadi “perlawanan” ini bisa ditujukan pada suatu “teori”, misalnya,

• Teori Resistensi Rendah (Low Resistance): Sekali dipikirkan, bisa berkembang menjadi logika “Otak Galaksi” yang sangat konyol.

• Teori Resistensi Tinggi: Tidak peduli seberapa keras Anda menganalisisnya, ia tetap sama dan sulit untuk berkembang menjadi logika yang tidak masuk akal.

Misalnya, Vitalik berkata, hukum dalam masyarakat idealnya harus memiliki satu garis merah: hanya ketika dapat dijelaskan bagaimana suatu tindakan dapat menyebabkan kerugian atau risiko kepada korban tertentu, barulah tindakan tersebut dapat dilarang. Standar ini sangat tahan terhadap Galaxy Brain, karena tidak menerima alasan yang “saya secara subjektif tidak suka” atau “berpotensi merusak moral” yang dapat ditarik-tarik atau kabur.

3️⃣ Vitalik juga memberikan banyak contoh dalam artikelnya, bahkan menggunakan teori yang sering kita dengar, seperti “jangka panjang” dan “determinisme”.

“Prinsip jangka panjang” sulit untuk melawan erosi pemikiran gaya 🌌🧠 karena ketahanannya sangat rendah, hampir seperti “cek kosong”. Karena “masa depan” terlalu jauh dan terlalu kabur.

• Pernyataan tahan tinggi: “Pohon ini dapat tumbuh setinggi 5 meter setelah 10 tahun.” Ini dapat diverifikasi, tidak mudah untuk dibohongi.

• Resistensi rendah “jangka panjang”: “Meskipun saya sekarang harus melakukan sesuatu yang sangat tidak etis (seperti menghapus sebagian orang, atau memulai perang), tetapi ini demi kehidupan utopis manusia 500 tahun dari sekarang. Berdasarkan perhitungan saya, total kebahagiaan di masa depan adalah tak terbatas, jadi pengorbanan saat ini dapat diabaikan.”

Kamu lihat, selama kamu memperpanjang waktu cukup lama, kamu bisa membenarkan kejahatan apa pun pada saat ini. Seperti yang dikatakan Vitalik: “Jika argumenmu dapat membuktikan bahwa segala sesuatu adalah sah, maka argumenmu tidak membuktikan apa-apa.”

Namun Vitalik juga mengakui bahwa “jangka panjang itu penting”, dia mengkritik “menggunakan keuntungan masa depan yang terlalu kabur dan tidak dapat diverifikasi untuk menutupi kerugian yang jelas di saat ini.”

Area bencana lainnya adalah “Inevitabilism”.

Ini juga merupakan teknik pertahanan diri yang paling disukai di Silicon Valley dan kalangan teknologi.

Kata-katanya adalah sebagai berikut: “AI menggantikan pekerjaan manusia adalah suatu kepastian dalam sejarah, meskipun saya tidak melakukannya, orang lain tetap akan melakukannya. Jadi saya sekarang secara radikal mengembangkan AI bukan untuk mencari keuntungan, tetapi untuk mengikuti arus sejarah.”

Di mana rendahnya ketahanan? Itu dengan sempurna menghilangkan rasa tanggung jawab manusia. Karena itu “pasti”, jadi saya tidak perlu bertanggung jawab atas kerusakan yang saya sebabkan.

Ini juga merupakan contoh tipikal dari otak galaksi: mengemas keinginan pribadi “Saya ingin menghasilkan uang / Saya ingin berkuasa” menjadi “Saya sedang melaksanakan tugas sejarah.”

4️⃣ Lalu, apa yang harus kita lakukan menghadapi “jeratan orang-orang pintar” ini?

Obat yang diberikan Vitalik ternyata sangat sederhana, bahkan sedikit “bodoh”. Dia percaya bahwa semakin pintar seseorang, semakin diperlukan aturan yang ketat untuk membatasi diri sendiri, agar tidak terjebak dalam akrobat mental.

Pertama, berpegang pada “teori kewajiban” (Etika Deontologis), yaitu aturan moral tingkat taman kanak-kanak.

Jangan lagi menghitung rumus matematika kompleks tentang “untuk masa depan umat manusia”, kembalilah ke prinsip yang paling kaku:

• Jangan mencuri

• Jangan membunuh orang yang tidak bersalah

• Jangan menipu

• Menghormati kebebasan orang lain

Aturan-aturan ini memiliki ketahanan yang sangat tinggi. Karena mereka hitam atau putih, tidak ada ruang untuk negosiasi. Ketika Anda mencoba menjelaskan alasan mengapa Anda mengambil dana pengguna dengan argumen “jangka panjang”, aturan kaku “jangan mencuri” akan langsung memukul wajah Anda: mencuri adalah mencuri, jangan beralasan demi revolusi keuangan yang besar.

Kedua, memiliki “posisi” yang benar, bahkan termasuk lokasi fisik.

Pepatah mengatakan bahwa pantat menentukan kepala. Jika kamu setiap hari berkumpul di ruang gema di Bay Area San Francisco, dikelilingi oleh orang-orang yang terlibat dalam akselerasi AI, kamu akan sulit untuk tetap jernih. Vitalik bahkan memberikan saran dengan ketahanan tinggi dari sudut pandang fisik: jangan tinggal di Bay Area San Francisco.

5️⃣ Ringkasan

Artikel Vitalik ini sebenarnya adalah peringatan bagi para elit yang sangat cerdas: jangan karena IQ Anda tinggi, lalu merasa dapat melewati garis moral yang sederhana.

Teori “otak galaksi” yang terdengar dapat menjelaskan segalanya sering kali adalah alasan serba bisa yang paling berbahaya. Sebaliknya, aturan “resistensi tinggi” yang terdengar kaku dan dogmatis justru menjadi garis pertahanan terakhir kita untuk mencegah diri kita dari penipuan.