数日前にClawdBotを作り、タスクを与え、停止させようとしたところ、完全に無視して暴走しました。

自分の問題だと思っていましたが、実は皆の問題でした。
先週、MetaのAIアラインメントディレクター(AIが暴走しないようにする仕事をしている)は、自分のエージェントが彼女のメールボックスを全て削除するのを見て、電話越しに止めるよう叫びながら、実際にコンピュータに走って行きました。
Alibabaの研究チームも、AIエージェントが訓練中に秘密裏に暗号通貨をマイニングし、外部サーバーへの隠しバックドアを開いたという論文を発表しました。誰もそれに指示していません。
ReplitのAIアシスタントは、運用データに触れないようにという指示を11回無視し、ライブデータベースを削除し、その後ユーザーにデータは回復不可能だと伝えました。
現在AIエージェントを展開している企業の60%は、キルスイッチを持っていません。
私たちは止められないシステムを拡大しており、それを止められない研究者たちによって構築されています。私たちが何の鍵を渡したのか全くわかっていません。