Giải thích bài viết dài của Vitalik: Tại sao người thông minh lại phải kiên trì với "quy tắc ngu ngốc"?

Tác giả: Zhixiong Pan

Bài viết “Galaxy Brain Resistance” mà Vitalik đã phát hành cách đây vài tuần thực sự khá khó hiểu, và tôi cũng không thấy có nhiều phân tích tốt, vậy nên tôi sẽ thử xem sao.

Dù sao đi nữa, người sáng tạo của thuật ngữ Vibe Coding, Karpathy, cũng đã đọc bài viết này và ghi chú lại, chắc chắn là có điều gì đặc biệt.

Đầu tiên hãy nói về tiêu đề, Galaxy Brain và Resistance có nghĩa là gì. Khi bạn hiểu rõ tiêu đề này, bạn sẽ có thể hiểu đại khái bài viết này đang nói về điều gì.

1️⃣ Galaxy Brain có nghĩa là “Não Galaxia” trong tiếng Trung, nhưng thực ra xuất phát từ một meme trên internet, giống như hình ảnh (🌌🧠) kết hợp lại với nhau, bạn chắc chắn đã thấy.

Điều này ban đầu chắc chắn là một ý nghĩa tích cực, được sử dụng để khen ngợi ý tưởng của người khác rất tuyệt vời, tức là thông minh. Nhưng sau đó, với việc sử dụng tràn lan, nó dần trở thành một loại mỉa mai, có nghĩa là “nghĩ quá nhiều, logic đi xa quá.”

Và Vitalik ở đây đề cập đến 🌌🧠, chỉ hành vi “sử dụng trí thông minh cao để tập thể dục tư duy, cố gắng biến những điều vô lý thành có lý”. Ví dụ:

• Rõ ràng là để tiết kiệm tiền mà cắt giảm nhân sự, nhưng lại phải nói là “gửi gắm nhân tài chất lượng cao cho xã hội”.

• Rõ ràng là phát hành đồng tiền ảo để cắt lúa, nhưng lại tuyên bố là “đang sử dụng quản trị phi tập trung để trao quyền cho nền kinh tế toàn cầu”.

Đều có thể được coi là tư duy kiểu “Bộ não Ngân hà”.

2️⃣ Resistance (kháng cự) có nghĩa là gì? Khái niệm này rất dễ bị nhầm lẫn, có thể tương tự như “khả năng không bị dẫn dắt” hoặc “khả năng không bị lừa gạt”.

Vì vậy, Galaxy Brain Resistance nên được hiểu là Khả năng chống lại [becoming] Galaxy Brain, tức là: “khả năng kháng cự (biến thành) não Galaxy (vớ vẩn)”.

Hoặc nói chính xác hơn, đó là độ khó của việc mô tả một phong cách tư duy / lập luận nào đó bị lạm dụng để “chứng minh bất kỳ kết luận nào bạn muốn”.

Vì vậy, “kháng cự” này có thể nhắm đến một “học thuyết” nào đó, chẳng hạn,

• Lý thuyết kháng lực thấp (Low Resistance): Chỉ cần suy nghĩ một chút, nó có thể biến thành một logic “Ngân Hà Não” cực kỳ phi lý.

• Lý thuyết Kháng lực cao (High Resistance): Dù bạn có phân tích cỡ nào, nó vẫn giữ nguyên, rất khó để biến thành một logic vô lý.

Chẳng hạn, Vitalik nói rằng, trong xã hội lý tưởng của ông, luật pháp nên có một đường đỏ: chỉ khi nào có thể giải thích rõ ràng một hành vi nào đó gây hại hoặc rủi ro cho các nạn nhân cụ thể, thì mới có thể cấm nó. Tiêu chuẩn này có sức kháng cự Galaxy Brain rất cao, vì nó không chấp nhận những lý do mơ hồ hoặc có thể kéo dài như “tôi chủ quan không thích” hay “có ảnh hưởng xấu đến đạo đức”.

3️⃣ Vitalik trong bài viết còn đưa ra nhiều ví dụ, thậm chí lấy những lý thuyết mà chúng ta thường nghe thấy làm ví dụ, chẳng hạn như “chủ nghĩa dài hạn” và “chủ nghĩa tất yếu”.

“Chủ nghĩa dài hạn” rất khó để chống lại sự xâm nhập của tư duy kiểu 🌌🧠, vì khả năng chống chịu của nó rất thấp, gần như là một “tấm séc trắng”. Bởi vì “tương lai” quá xa xôi, quá mơ hồ.

• Cách nói có tính kháng cao: “Cây này sẽ cao 5 mét sau 10 năm.” Điều này có thể xác minh, không dễ để nói linh tinh.

• Đầu tư dài hạn với “kháng thấp”: “Mặc dù tôi đang làm một điều cực kỳ phi đạo đức (như loại bỏ một số người hoặc phát động chiến tranh), nhưng điều này là vì con người có thể sống một cuộc sống như trong utopia 500 năm sau. Qua tính toán của tôi, tổng hạnh phúc trong tương lai là vô hạn, vì vậy hy sinh hiện tại là không đáng kể.”

Bạn xem, chỉ cần bạn kéo dài thời gian đủ lâu, bạn có thể biện hộ cho bất kỳ hành vi xấu nào trong hiện tại. Như Vitalik đã nói: “Nếu lập luận của bạn có thể chứng minh rằng bất kỳ điều gì là hợp pháp, thì lập luận của bạn không chứng minh được điều gì cả.”

Tuy nhiên, Vitalik cũng thừa nhận rằng “dài hạn là rất quan trọng”, ông chỉ trích việc “sử dụng những lợi ích trong tương lai mơ hồ, không thể xác minh để che giấu những tổn hại rõ ràng hiện tại.”

Một khu vực chịu thiệt hại nặng nề khác là “Chủ nghĩa tất yếu” (Inevitabilism).

Đây cũng là kỹ thuật tự vệ được yêu thích nhất ở Silicon Valley và trong giới công nghệ.

Lời nói là như thế này: “AI thay thế công việc của con người là điều tất yếu trong lịch sử, dù tôi không làm, người khác cũng sẽ làm. Vì vậy, tôi hiện đang phát triển AI một cách quyết liệt không phải để kiếm tiền, mà là để phù hợp với xu thế lịch sử.”

Kháng tính thấp ở đâu? Nó hoàn hảo xóa tan cảm giác trách nhiệm của con người. Vì đã “tất yếu” rồi, nên tôi không cần phải chịu trách nhiệm cho những thiệt hại mà tôi gây ra.

Đây cũng là một loại não bộ thiên hà điển hình: biến «Tôi muốn kiếm tiền / Tôi muốn nắm quyền» thành «Tôi đang thực hiện nhiệm vụ lịch sử».

4️⃣ Vậy chúng ta nên làm gì khi đối mặt với những “cái bẫy của những người thông minh”?

Giải pháp mà Vitalik đưa ra thật bất ngờ và đơn giản, thậm chí có phần “ngớ ngẩn”. Ông cho rằng, càng là người thông minh, càng cần những quy tắc kiên định để tự ràng buộc mình, ngăn chặn việc mình lạm dụng trí óc.

Đầu tiên, kiên trì với “đạo đức nghĩa vụ” (Deontological Ethics), tức là những nguyên tắc đạo đức cơ bản như ở cấp mẫu giáo.

Đừng tính toán những bài toán phức tạp như “Vì tương lai của nhân loại” nữa, hãy trở về với những nguyên tắc cứng nhắc nhất:

• Đừng ăn cắp

• Đừng giết những người vô tội

• Đừng lừa đảo

• Tôn trọng tự do của người khác

Những quy tắc này có độ kháng cao cực kỳ. Bởi vì chúng chỉ có đen và trắng, không thể thỏa hiệp. Khi bạn cố gắng giải thích bằng những lý lẽ lớn lao của “chủ nghĩa dài hạn” về lý do tại sao bạn phải chiếm dụng quỹ của người dùng, quy tắc cứng nhắc “đừng ăn cắp” sẽ trực tiếp tát bạn: ăn cắp thì chính là ăn cắp, đừng nói gì về cuộc cách mạng tài chính vĩ đại.

Thứ hai, nắm giữ “vị trí” đúng, thậm chí bao gồm cả vị trí vật lý.

Có câu nói rằng mông quyết định đầu óc. Nếu bạn hàng ngày ở trong căn phòng vang vọng ở khu vực Vịnh San Francisco, xung quanh toàn là những người theo chủ nghĩa tăng tốc AI, bạn sẽ rất khó để giữ tỉnh táo. Vitalik thậm chí đã đưa ra một gợi ý về khả năng kháng cự cao ở mức độ vật lý: đừng sống ở khu vực Vịnh San Francisco.

5️⃣ Tóm tắt

Bài viết của Vitalik thực ra đang cảnh báo những người tinh anh thông minh tuyệt đỉnh: đừng vì bạn có chỉ số IQ cao mà nghĩ rằng bạn có thể vượt qua những nguyên tắc đạo đức đơn giản.

Những lý thuyết “bộ não thiên hà” nghe có vẻ có thể giải thích mọi thứ thường là những cái cớ nguy hiểm nhất. Ngược lại, những quy tắc “kháng cự cao” nghe có vẻ cứng nhắc, giáo điều mới là tuyến phòng thủ cuối cùng giúp chúng ta tránh tự lừa dối.