本当のAIの脅威は殺人ロボットではなく、政府の監視だ

トランプの暗号資産・AI担当者であるデイビッド・サックスが、AIの危険性に関する議論を根本から捉え直す鋭い意見を発表しました。ネタバレ：問題はターミネーターのようなロボットではありません。

本当の問題は？
サックスは、実際のディストピアは政府がAIを大量監視や情報統制のために武器化することであり、ハリウッドではなくオーウェル的な世界だと主張しています。

a16zのポッドキャストで、彼はバイデン政権時代の政策(やカリフォルニアやコロラドなど現在の「ブルー・ステート」)による「強権的な」AI消費者保護法に対して批判を展開しました。彼の主張は、これらの政策が「アルゴリズムによる差別」という表現で問題を捉えているが、より深刻な脅威は安全規制を装った監視インフラの構築だ、というものです。

なぜ重要なのか：
トランプ政権はAI規制に対して異なるアプローチを取っており、慎重さよりもイノベーションを優先しています。サックスの見解は、AGIが暴走することよりも、中央集権的な権力がAIを使って市民を監視したり、情報をコントロールしたりすることの方が脅威だと示唆しています。

これは哲学的な分岐点です。西側諸国の規制はAIをコントロールすべき潜在的脅威と見なす傾向がありますが、サックスは本当の脅威はコントロールそのもの、つまり政府がAIをその道具として使うことだと主張します。

TLDR：SF的な恐怖は忘れて、アルゴリズムの鍵を握っているのは誰かに注目しましょう。