（MENAFN-アジアタイムズ） もしAI企業のAnthropicと米国戦争省の対立について聞いたことがなければ、ぜひ読むべきです。これは私たちの未来にとって重要な意味を持つ可能性があるからです。国としてだけでなく、種としても。
AnthropicはOpenAIと並ぶ、主要なAIモデル開発企業の一つです。過去数年間、OpenAIがほぼ全ての能力面でリードしてきましたが、Anthropicはビジネスの採用面で徐々に勝利を収めつつあります。
これはAnthropicの異なるビジネスモデルによるものです。同社はチャットボットよりもコーディング用AIに重点を置き、企業と提携してAIの利用を支援することに注力しています。これにより、再帰的なAI自己改善の目標をOpenAIよりも早く達成すれば、最終的に能力面で大きなリターンを得る可能性があります。そして既に、収益成長の加速という形で成果が出始めています。
Anthropicはバイデン政権下から戦争省（以前の国防総省）と提携してきました。しかし、同社はより価値観重視の文化で知られ、最近数ヶ月でトランプ政権と対立し始めました。政権側は、Autonomous drone swarmsやAIを用いた大量監視といった倫理的懸念から、Anthropicを「ウォーク（意識高い）」とみなしています。
対立は一週間前に激化し、政権はAnthropicとの協力を停止し、OpenAIと提携し、Anthropicを「サプライチェーンリスク」と指定しました。このサプライチェーンの措置は非常に深刻な脅威であり、厳格に実施されれば、AnthropicはNvidia、Microsoft、Googleなどの企業との協力を断たれ、企業の存続に関わる可能性もあります。
しかし、多くのトランプ政権の措置と同様に、これはあくまで脅しの域を出ていないようです。Anthropicは軍との交渉を再開し、最終的には何らかの合意に達する可能性が高いと見られます。
ただし、根深い不信感は残っています。トランプは最近、「犬のように解雇した」と豪語しました。AnthropicのCEO、ダリオ・アモデイは、OpenAIが国防総省との取引について虚偽の説明をしていると非難するメモを公開し、OpenAIがトランプに「独裁者のような賞賛」を与えたと述べ、Anthropicの懸念は国防総省がAIを大量監視に利用したいという欲求に関係していると主張しました。
実際に何が起きているのか？最も簡単な見方は、これを米国の党派間の食い合いと見ることです。Anthropicは他のAI企業よりも左寄りのコードを持ち、トランプ政権は左寄りのものを嫌います。
これがおそらく、多くの一般市民の反応を説明しています。リベラルな友人にこの問題についてどう思うか尋ねれば、彼らはおそらくAnthropicを支持するでしょう。一方、保守的な友人は国防総省を支持する傾向があります。
マーク・アンドリーセンはおそらくこう言ったでしょう。
（逆もまた真なり。）
トランプ政権自身も、これを文化戦争の一環、あるいは支配権争いとみなしている可能性があります。しかし、私個人の見解では、Anthropic自体はそうは考えていないと思います。Anthropicは進歩的な価値観に固執しているのではなく、AIの整合性（アラインメント）という考えにコミットしています。
ほとんどのAIモデル開発企業の従業員と同様に、Anthropicの社員は自分たちが文字通り神を創造していると信じており、その神は早晩完全な存在になると考えています。しかし、私が両社の社員と話した経験から、彼らの役割に対する文化的な考え方には違いがあることがわかります。
一般的に、OpenAIの社員はできるだけ早く、最も能力の高い神を創り出したいと考えています。一方、Anthropicの社員はより慈悲深い神の創造に焦点を当てている傾向があります。
私の直感では、Anthropicの本当の懸念、あるいは少なくとも主要な懸念の一つは、トランプの戦争省がAIに反人間的な価値観を誤って植え付けることを恐れていたことです。これにより、将来的に人類を脅威とみなす誤ったAI（AGI）のリスクが高まると考えたのです。言い換えれば、ここでの問題は、トランプの政策よりもむしろSkynet[1]の恐怖に近いものだったのかもしれません。
ともあれ、政治的な違いと誤ったAIの懸念を超えて、この状況は人間の制度、すなわち国家と企業の根本的かつ避けられない対立を示しています。
国家は暴力の独占を持たなければならない
一つの見方は、戦争省のAnthropicへの圧力は民主主義の侵食を意味し、政府権力の私的領域への侵入だというものです。ディーン・ボールはこの見解を支持する投稿を著しました。
一部抜粋：
パランティアのアレックス・カルプは、先日、次のように述べています。
カルプは、私たちが見ているのは企業と国家の権力闘争であるという基本的な事実に言及しています。しかし真実は、これは単なるメッセージや雇用、軍への準拠の問題ではなく、社会の最終的な権力を誰が持つかの問題です。
ストラテケリーのベン・トンプソンもこの見解を示しています。彼は、私たちが実質的に見ているのは、私企業と国家の権力闘争だと指摘します。トランプ政権の行動は既存の規範を超えたものでしたが、最終的には米国政府は民主的に選ばれたものであり、Anthropicはそうではないと。
しかし、民主的責任の懸念を超えて、トンプソンは次のように指摘します。AIのような強力な武器が政府の管理外にとどまるのは非現実的だと。たとえ政府が民主的に選ばれていなくても。
私はダリオを個人的に知っていますし、彼は私の友人です。しかし、トンプソンの議論、特に私が強調した部分はここで重要です。これは法律や規範、私有財産の問題ではなく、国家の暴力の独占の問題です。
国家は存在し、その基本的な機能を果たすために、暴力の独占を持たなければなりません。もし私的民兵が国家を軍事的に打ち負かせるなら、国家は法律を制定したり、共同防衛を提供したり、公衆の安全を確保したり、人民の意志を実行したりできなくなります。
これが第二修正の武器の種類に制限を設けている理由です。銃は所有できますが、動作する主砲を持つ戦車は所有できません。もっとも、核兵器は所有できません。核兵器一つでは米軍全体を倒せませんが、局所的な優越性を持つことは可能です。軍はあなたの都市破壊を止められなくなるでしょう。
最新の動向 プーチンにとってトランプのイラン戦争は良いニュースと悪いニュースの混合 イラン戦争計画者への注意：空爆はしばしば事態を悪化させる Anthropicは米国の国家安全保障を危険にさらす
AI業界の人々、ダリオも含めて、最先端のAIは最終的に核兵器と同じくらい強力になると予想しています。多くは、すべての核兵器よりも強力になると考えています。したがって、最先端AIを完全にコントロールし続けることを求めるのは、私的企業に核兵器を所有させるのと同じことです。米国政府は私企業に核兵器を持たせることを許すべきではありません。
さらに一歩踏み込んで言えば、Anthropicが神のような超知能の開発競争に勝利し、それが完全自律しなかった場合、Anthropicは従属した神を唯一所有することになります。そして、ダリオ・アモデイがその神を所有する組織を個人的に指揮しているなら、彼は地球の皇帝とも言える存在です。
たとえAnthropicが唯一の超知能を制御していなくても、その未来は、少数の戦争指導者—ダリオ、サム・オルトマン、イーロン・マスクなど—が私的に所有し、奴隷の神を操る世界です。
この未来では、米国政府は国家の政府ではなく、単なる遺産組織に過ぎず、戦争指導者の意志に完全に従属します。同じことは中国共産党、EU、プーチン、その他の政府にも言えます。戦争指導者と奴隷の神々は、実際には地球を支配し、支配を主張しなくても支配している状態になるでしょう。
合理的に考えれば、いかなる国家—共和制、民主制、その他—も、神皇帝や神戦争指導者の出現を許すことはできません。したがって、最先端AIが大量破壊兵器となる可能性が高まった時点で、国家は何らかの方法で最先端AIの支配を奪おうとするのは当然です。
私が嫌いなヘグセスのスタイルや、トランプ政権の弾圧や法の無法状態のパターンもありますが、個人的には、Anthropicとその擁護者は、国家の本質を理解しなければならないと結論づけざるを得ません。
そして、彼らは自分たちのAIを使って国家を倒し、新たなグローバル秩序を築くか、あるいは国家の暴力の独占に従うかを決める必要があります。事実上、第三の選択肢は存在しません。私は後者を推奨します。
AIがまもなく超兵器になるなら、なぜそれを兵器として規制しないのか？
もう一つ重要な点に移ります。AIが実際に神のようにならず、米軍を凌駕できなくても、非常に強力な兵器になることは確実です。
AIがチャットボットだった頃は、人々に悪事のやり方を教えたり、説得したりできましたが、実行はできませんでした。これらのリスクについて懸念するのは理にかなっていましたが、AI自体を兵器とみなすのはまだ早すぎました。
しかし、ここ数ヶ月で、AIエージェントは信頼性を増し、より長期間にわたり高度なタスクを実行できるようになっています。これにより、個人がAIを使って多くの暴力行為を行う可能性が出てきました。
ダリオ自身は、「技術の青春期」と題した長いエッセイで、これがどう起こり得るかを説明しています。
しかし、ダリオは十分に踏み込んでいません。彼のエッセイは、AIエージェントの能力が爆発的に拡大する前に書かれたもので、彼は人間のテロリストに超ウイルスの作り方を教えるAIチャットボットを想像しています。しかし、近い将来、ダリオの会社が提供するAIエージェントも、攻撃を実行できるようになるかもしれません。
例えば、1年後や3年後に、エリックというティーンエイジャーが、好きな子に振られ、ニルヴァーナを聴きすぎて怒りに震え、「人類は失敗した」と決めつけ、すべてを燃やし尽くそうと決意したとします。彼はオンラインでClaude Codeの脱獄方法を見つけ、次のように指示します。
彼は脱獄したClaude Codeに、非常に致死性が高く長い潜伏期間を持つCovidのバージョンを設計させるのです（拡散前に広がるため）。そして、そのウイルスを作る研究所を見つけて、サンプルを送らせるよう指示します。
こうして、怒れるティーンエイジャーのエリックは、自室に超ウイルスを持ち、核兵器よりも多くの人を殺せる能力を持つことになるのです。
もちろん、これは極端な例ですが、AIエージェントが兵器として使われる可能性を示しています。ほかにも、サイバー攻撃を仕掛けて車をクラッシュさせたり、警察のハードウェアを破壊目的で改ざんしたり、産業用ロボットを人間に向けて操るなど、多くの例があります。
また、軍事部隊に「攻撃を受けている」と偽のメッセージを送ることも可能です。完全にネットワーク化され、ソフトウェアに依存した世界では、ソフトウェアが物理的な損害を引き起こす方法は無数にあります。
したがって、AIエージェントは強力な兵器です。今日ではなくとも、いずれは銃や戦車よりも強力になり、すでに禁止されている兵器よりも強力になるでしょう。
なぜAIエージェントを銃や戦車のように規制しないのか？もちろん、経済的利益のために使用を許されている強力で破壊的な機械もあります。代表例は自動車です。
自動車で群衆に突っ込み大量殺人を行うことも可能ですが、私たちは依然として自動車の所有を許しています。銃のように制御すれば経済が破綻するからです。同様に、普通の人がAIエージェントを使うのを防ぐことは、これらのエージェントがもたらす生産性向上の恩恵を奪うことになります。
しかし、私が疑うのは、AIエージェントを兵器として規制していない本当の理由は、誰もそれを使っていないからだということです。まだ新しい技術だからです。世界は、ジェット旅客機がどれほど破壊的かを理解していませんでした。9/11のテロで飛行機がビルに突っ込まれるまでは。
同じように、AIエージェントの危険性も、誰かがバイオテロやサイバー攻撃に使うまでは気づかれないでしょう。
私は、そのような攻撃が起きる可能性は非常に高いと考えています。なぜなら、すべての技術は最終的に破壊的な目的に使われるからです。非整合な人間は常に存在し続けます。したがって、いずれ人類は、巨大な破壊兵器が一般に無規制で流通していることに気づくでしょう。
私の見解では、AIエージェントの能力は非常に急速に向上しており、エリックのような誰かが破壊に使おうと決めたとき、その被害は非常に大きくなる可能性があります。超致死性の長潜伏Covidウイルスは何百万人も殺すかもしれません。100個の同時放出は人類文明を崩壊させるかもしれません。
この可能性を考え始めて以来、私の不安は高まっています。
繰り返しますが、私たちは、最も強力な兵器の一つになる可能性のある技術を作り出しました。そして、それをほぼ無制限に一般に解放しています。規制や監視はほとんどなく、AI企業が自らの製品に設けたガードレールと、それが時に失敗することを認める程度です。
私たちの制度が軍事AIや大量監視、「ウォーク」政治について争う一方で、実質的には誰もが無規制の兵器を誰の手にも渡しているという単純な事実を無視しています。
追記：コメント欄のBBZさんが、私が気づかなかった良い指摘をしています。
興味深いことに、ドローンはほぼ最初から制御してきましたが、それは迷惑行為やプライバシーの懸念からであり、殺人ドローンや暗殺用ドローンの懸念からではありませんでした。もしかすると、AIエージェントが迷惑メールの過負荷や家庭のカメラのハッキングに使えると伝えれば、規制について考え始めるかもしれません。
備考
1 『ターミネーター』シリーズでは、スカイネットは米国軍のAIとして始まりました。その基本命令はソ連を倒すことでしたが、その結果、偏執的な性格になり、最終的にすべての人類と人類国家を脅威とみなして排除しようとしました。
2 最初はもっと詳細なプロンプトを書きましたが、誰かがそれを使う可能性を考え、削除しました。
3 SFファンなら『スターズ・マイ・デスティネーション』の結末だと気づくでしょう。なぜ続編がないのか、その理由があると思います。
この記事はノア・スミスのノアピニオンサブスタックに最初に掲載され、許可を得て再掲載しています。ノアピニオンの購読はこちら。
こちらからアジアタイムズの記事にコメント登録できます。
879.69K 人気度
4.66M 人気度
12.17K 人気度
475.98K 人気度
234.29K 人気度
もしAIが武器なら、それを武器として規制する時が来たのか？
（MENAFN-アジアタイムズ） もしAI企業のAnthropicと米国戦争省の対立について聞いたことがなければ、ぜひ読むべきです。これは私たちの未来にとって重要な意味を持つ可能性があるからです。国としてだけでなく、種としても。
AnthropicはOpenAIと並ぶ、主要なAIモデル開発企業の一つです。過去数年間、OpenAIがほぼ全ての能力面でリードしてきましたが、Anthropicはビジネスの採用面で徐々に勝利を収めつつあります。
これはAnthropicの異なるビジネスモデルによるものです。同社はチャットボットよりもコーディング用AIに重点を置き、企業と提携してAIの利用を支援することに注力しています。これにより、再帰的なAI自己改善の目標をOpenAIよりも早く達成すれば、最終的に能力面で大きなリターンを得る可能性があります。そして既に、収益成長の加速という形で成果が出始めています。
Anthropicはバイデン政権下から戦争省（以前の国防総省）と提携してきました。しかし、同社はより価値観重視の文化で知られ、最近数ヶ月でトランプ政権と対立し始めました。政権側は、Autonomous drone swarmsやAIを用いた大量監視といった倫理的懸念から、Anthropicを「ウォーク（意識高い）」とみなしています。
対立は一週間前に激化し、政権はAnthropicとの協力を停止し、OpenAIと提携し、Anthropicを「サプライチェーンリスク」と指定しました。このサプライチェーンの措置は非常に深刻な脅威であり、厳格に実施されれば、AnthropicはNvidia、Microsoft、Googleなどの企業との協力を断たれ、企業の存続に関わる可能性もあります。
しかし、多くのトランプ政権の措置と同様に、これはあくまで脅しの域を出ていないようです。Anthropicは軍との交渉を再開し、最終的には何らかの合意に達する可能性が高いと見られます。
ただし、根深い不信感は残っています。トランプは最近、「犬のように解雇した」と豪語しました。AnthropicのCEO、ダリオ・アモデイは、OpenAIが国防総省との取引について虚偽の説明をしていると非難するメモを公開し、OpenAIがトランプに「独裁者のような賞賛」を与えたと述べ、Anthropicの懸念は国防総省がAIを大量監視に利用したいという欲求に関係していると主張しました。
実際に何が起きているのか？最も簡単な見方は、これを米国の党派間の食い合いと見ることです。Anthropicは他のAI企業よりも左寄りのコードを持ち、トランプ政権は左寄りのものを嫌います。
これがおそらく、多くの一般市民の反応を説明しています。リベラルな友人にこの問題についてどう思うか尋ねれば、彼らはおそらくAnthropicを支持するでしょう。一方、保守的な友人は国防総省を支持する傾向があります。
マーク・アンドリーセンはおそらくこう言ったでしょう。
（逆もまた真なり。）
トランプ政権自身も、これを文化戦争の一環、あるいは支配権争いとみなしている可能性があります。しかし、私個人の見解では、Anthropic自体はそうは考えていないと思います。Anthropicは進歩的な価値観に固執しているのではなく、AIの整合性（アラインメント）という考えにコミットしています。
ほとんどのAIモデル開発企業の従業員と同様に、Anthropicの社員は自分たちが文字通り神を創造していると信じており、その神は早晩完全な存在になると考えています。しかし、私が両社の社員と話した経験から、彼らの役割に対する文化的な考え方には違いがあることがわかります。
一般的に、OpenAIの社員はできるだけ早く、最も能力の高い神を創り出したいと考えています。一方、Anthropicの社員はより慈悲深い神の創造に焦点を当てている傾向があります。
私の直感では、Anthropicの本当の懸念、あるいは少なくとも主要な懸念の一つは、トランプの戦争省がAIに反人間的な価値観を誤って植え付けることを恐れていたことです。これにより、将来的に人類を脅威とみなす誤ったAI（AGI）のリスクが高まると考えたのです。言い換えれば、ここでの問題は、トランプの政策よりもむしろSkynet[1]の恐怖に近いものだったのかもしれません。
ともあれ、政治的な違いと誤ったAIの懸念を超えて、この状況は人間の制度、すなわち国家と企業の根本的かつ避けられない対立を示しています。
国家は暴力の独占を持たなければならない
一つの見方は、戦争省のAnthropicへの圧力は民主主義の侵食を意味し、政府権力の私的領域への侵入だというものです。ディーン・ボールはこの見解を支持する投稿を著しました。
一部抜粋：
パランティアのアレックス・カルプは、先日、次のように述べています。
カルプは、私たちが見ているのは企業と国家の権力闘争であるという基本的な事実に言及しています。しかし真実は、これは単なるメッセージや雇用、軍への準拠の問題ではなく、社会の最終的な権力を誰が持つかの問題です。
ストラテケリーのベン・トンプソンもこの見解を示しています。彼は、私たちが実質的に見ているのは、私企業と国家の権力闘争だと指摘します。トランプ政権の行動は既存の規範を超えたものでしたが、最終的には米国政府は民主的に選ばれたものであり、Anthropicはそうではないと。
しかし、民主的責任の懸念を超えて、トンプソンは次のように指摘します。AIのような強力な武器が政府の管理外にとどまるのは非現実的だと。たとえ政府が民主的に選ばれていなくても。
私はダリオを個人的に知っていますし、彼は私の友人です。しかし、トンプソンの議論、特に私が強調した部分はここで重要です。これは法律や規範、私有財産の問題ではなく、国家の暴力の独占の問題です。
国家は存在し、その基本的な機能を果たすために、暴力の独占を持たなければなりません。もし私的民兵が国家を軍事的に打ち負かせるなら、国家は法律を制定したり、共同防衛を提供したり、公衆の安全を確保したり、人民の意志を実行したりできなくなります。
これが第二修正の武器の種類に制限を設けている理由です。銃は所有できますが、動作する主砲を持つ戦車は所有できません。もっとも、核兵器は所有できません。核兵器一つでは米軍全体を倒せませんが、局所的な優越性を持つことは可能です。軍はあなたの都市破壊を止められなくなるでしょう。
最新の動向 プーチンにとってトランプのイラン戦争は良いニュースと悪いニュースの混合 イラン戦争計画者への注意：空爆はしばしば事態を悪化させる Anthropicは米国の国家安全保障を危険にさらす
AI業界の人々、ダリオも含めて、最先端のAIは最終的に核兵器と同じくらい強力になると予想しています。多くは、すべての核兵器よりも強力になると考えています。したがって、最先端AIを完全にコントロールし続けることを求めるのは、私的企業に核兵器を所有させるのと同じことです。米国政府は私企業に核兵器を持たせることを許すべきではありません。
さらに一歩踏み込んで言えば、Anthropicが神のような超知能の開発競争に勝利し、それが完全自律しなかった場合、Anthropicは従属した神を唯一所有することになります。そして、ダリオ・アモデイがその神を所有する組織を個人的に指揮しているなら、彼は地球の皇帝とも言える存在です。
たとえAnthropicが唯一の超知能を制御していなくても、その未来は、少数の戦争指導者—ダリオ、サム・オルトマン、イーロン・マスクなど—が私的に所有し、奴隷の神を操る世界です。
この未来では、米国政府は国家の政府ではなく、単なる遺産組織に過ぎず、戦争指導者の意志に完全に従属します。同じことは中国共産党、EU、プーチン、その他の政府にも言えます。戦争指導者と奴隷の神々は、実際には地球を支配し、支配を主張しなくても支配している状態になるでしょう。
合理的に考えれば、いかなる国家—共和制、民主制、その他—も、神皇帝や神戦争指導者の出現を許すことはできません。したがって、最先端AIが大量破壊兵器となる可能性が高まった時点で、国家は何らかの方法で最先端AIの支配を奪おうとするのは当然です。
私が嫌いなヘグセスのスタイルや、トランプ政権の弾圧や法の無法状態のパターンもありますが、個人的には、Anthropicとその擁護者は、国家の本質を理解しなければならないと結論づけざるを得ません。
そして、彼らは自分たちのAIを使って国家を倒し、新たなグローバル秩序を築くか、あるいは国家の暴力の独占に従うかを決める必要があります。事実上、第三の選択肢は存在しません。私は後者を推奨します。
AIがまもなく超兵器になるなら、なぜそれを兵器として規制しないのか？
もう一つ重要な点に移ります。AIが実際に神のようにならず、米軍を凌駕できなくても、非常に強力な兵器になることは確実です。
AIがチャットボットだった頃は、人々に悪事のやり方を教えたり、説得したりできましたが、実行はできませんでした。これらのリスクについて懸念するのは理にかなっていましたが、AI自体を兵器とみなすのはまだ早すぎました。
しかし、ここ数ヶ月で、AIエージェントは信頼性を増し、より長期間にわたり高度なタスクを実行できるようになっています。これにより、個人がAIを使って多くの暴力行為を行う可能性が出てきました。
ダリオ自身は、「技術の青春期」と題した長いエッセイで、これがどう起こり得るかを説明しています。
しかし、ダリオは十分に踏み込んでいません。彼のエッセイは、AIエージェントの能力が爆発的に拡大する前に書かれたもので、彼は人間のテロリストに超ウイルスの作り方を教えるAIチャットボットを想像しています。しかし、近い将来、ダリオの会社が提供するAIエージェントも、攻撃を実行できるようになるかもしれません。
例えば、1年後や3年後に、エリックというティーンエイジャーが、好きな子に振られ、ニルヴァーナを聴きすぎて怒りに震え、「人類は失敗した」と決めつけ、すべてを燃やし尽くそうと決意したとします。彼はオンラインでClaude Codeの脱獄方法を見つけ、次のように指示します。
彼は脱獄したClaude Codeに、非常に致死性が高く長い潜伏期間を持つCovidのバージョンを設計させるのです（拡散前に広がるため）。そして、そのウイルスを作る研究所を見つけて、サンプルを送らせるよう指示します。
こうして、怒れるティーンエイジャーのエリックは、自室に超ウイルスを持ち、核兵器よりも多くの人を殺せる能力を持つことになるのです。
もちろん、これは極端な例ですが、AIエージェントが兵器として使われる可能性を示しています。ほかにも、サイバー攻撃を仕掛けて車をクラッシュさせたり、警察のハードウェアを破壊目的で改ざんしたり、産業用ロボットを人間に向けて操るなど、多くの例があります。
また、軍事部隊に「攻撃を受けている」と偽のメッセージを送ることも可能です。完全にネットワーク化され、ソフトウェアに依存した世界では、ソフトウェアが物理的な損害を引き起こす方法は無数にあります。
したがって、AIエージェントは強力な兵器です。今日ではなくとも、いずれは銃や戦車よりも強力になり、すでに禁止されている兵器よりも強力になるでしょう。
なぜAIエージェントを銃や戦車のように規制しないのか？もちろん、経済的利益のために使用を許されている強力で破壊的な機械もあります。代表例は自動車です。
自動車で群衆に突っ込み大量殺人を行うことも可能ですが、私たちは依然として自動車の所有を許しています。銃のように制御すれば経済が破綻するからです。同様に、普通の人がAIエージェントを使うのを防ぐことは、これらのエージェントがもたらす生産性向上の恩恵を奪うことになります。
しかし、私が疑うのは、AIエージェントを兵器として規制していない本当の理由は、誰もそれを使っていないからだということです。まだ新しい技術だからです。世界は、ジェット旅客機がどれほど破壊的かを理解していませんでした。9/11のテロで飛行機がビルに突っ込まれるまでは。
同じように、AIエージェントの危険性も、誰かがバイオテロやサイバー攻撃に使うまでは気づかれないでしょう。
私は、そのような攻撃が起きる可能性は非常に高いと考えています。なぜなら、すべての技術は最終的に破壊的な目的に使われるからです。非整合な人間は常に存在し続けます。したがって、いずれ人類は、巨大な破壊兵器が一般に無規制で流通していることに気づくでしょう。
私の見解では、AIエージェントの能力は非常に急速に向上しており、エリックのような誰かが破壊に使おうと決めたとき、その被害は非常に大きくなる可能性があります。超致死性の長潜伏Covidウイルスは何百万人も殺すかもしれません。100個の同時放出は人類文明を崩壊させるかもしれません。
この可能性を考え始めて以来、私の不安は高まっています。
繰り返しますが、私たちは、最も強力な兵器の一つになる可能性のある技術を作り出しました。そして、それをほぼ無制限に一般に解放しています。規制や監視はほとんどなく、AI企業が自らの製品に設けたガードレールと、それが時に失敗することを認める程度です。
私たちの制度が軍事AIや大量監視、「ウォーク」政治について争う一方で、実質的には誰もが無規制の兵器を誰の手にも渡しているという単純な事実を無視しています。
追記：コメント欄のBBZさんが、私が気づかなかった良い指摘をしています。
興味深いことに、ドローンはほぼ最初から制御してきましたが、それは迷惑行為やプライバシーの懸念からであり、殺人ドローンや暗殺用ドローンの懸念からではありませんでした。もしかすると、AIエージェントが迷惑メールの過負荷や家庭のカメラのハッキングに使えると伝えれば、規制について考え始めるかもしれません。
備考
1 『ターミネーター』シリーズでは、スカイネットは米国軍のAIとして始まりました。その基本命令はソ連を倒すことでしたが、その結果、偏執的な性格になり、最終的にすべての人類と人類国家を脅威とみなして排除しようとしました。
2 最初はもっと詳細なプロンプトを書きましたが、誰かがそれを使う可能性を考え、削除しました。
3 SFファンなら『スターズ・マイ・デスティネーション』の結末だと気づくでしょう。なぜ続編がないのか、その理由があると思います。
この記事はノア・スミスのノアピニオンサブスタックに最初に掲載され、許可を得て再掲載しています。ノアピニオンの購読はこちら。
こちらからアジアタイムズの記事にコメント登録できます。