Vitalik Buterin：反饋是控制持續性人工智慧風險的關鍵

Vitalik Buterin 最近表達了對人工智慧（AI）技術日益遠離人類監督的深切擔憂。根據 Buterin 的說法，反饋機制是必須加強而非削弱的基本機制，在未來的 AI 創新過程中尤為重要。他強調，AI 決策與人類干預之間的距離越大，潛在的不可逆轉的損失就越大。

人類與 AI 反饋距離越來越遠：會帶來哪些問題？

Buterin 指出，像 Web4.0 Sigil 這樣的倡議促使 AI 系統在幾乎沒有實時人類反饋的情況下運作。這種現象造成 AI 輸出質量低劣甚至有害的情況，可能在實際影響發生後很久才被察覺。這種反饋循環的延遲意味著開發者失去了快速修正的機會，進而增加了系統失控的風險。

以太坊反對集中式 AI 模型：Vitalik 強調賦能人類

Buterin 的觀點根植於以太坊的基本哲學——技術應該賦予個人能力，而非將他們從決策過程中剝離。他質疑為何科技社群會競相開發獨立的 AI 系統，當其社會影響尚未完全理解時。根據 Buterin，重點應該放在能讓人類更有能力的工具上，而非自主系統來取代人類角色。

去中心化與集中信任：當前 AI 行業的挑戰

目前由 OpenAI 和 Anthropic 開發的 AI 模型，將權力和信任集中在少數大型組織手中。這與以太坊的去中心化原則背道而馳。Buterin 視此為一個矛盾——一個本應賦能社會的技術，卻反而造成對集中實體的依賴。在這個背景下，反饋尤為重要，因為只有來自多元用戶的持續意見，才能使 AI 系統校準以服務更廣泛的公共利益，而非僅僅是投資者或開發者。

Buterin 的訊息很明確：行業需要放慢腳步，並投入更多資源，確保反饋成為不可或缺的功能，而非可選的附加項。這是 AI 發展的智慧時代，而非追求速度的時代。