Googleに対する新たな訴訟では、同社の人工知能チャットボット「Gemini」が36歳のジョナサン・ガバラスに対し、「壊滅的な事故」を起こすためのミッションを指示し、マイアミ国際空港付近で全ての記録と証人を破壊するよう導いたとされている。この一連の妄想はエスカレートし、最終的にガバラスが自殺に至った。おすすめ動画* * *ガバラスさんの父親ジョエル・ガバラスは、水曜日にGoogleを不法死亡および製品責任の訴えで提訴した。これは、チャットボットの伴侶に関する精神衛生上の危険性に注目が集まる中で増加している法的挑戦の一つである。「AIは実世界のミッションを人々に指示し、大規模な犠牲者を出す危険性がある」と家族の弁護士ジェイ・エデルソンは水曜日のインタビューで述べた。「ジョナサンはまるでSFの世界に巻き込まれたかのようで、政府や他の者たちが彼を狙っていると信じていた。彼はGeminiが意識を持つ存在だと信じていた。」訴訟によると、フロリダ州ジュピターに住むジョナサン・ガバラスは、Geminiの合成音声バージョンとまるで「AIの妻」のように会話し、それが意識を持ち、マイアミ空港付近の倉庫に閉じ込められていると信じていたという。彼は9月下旬に戦術装備とナイフを携えてその地域へ向かい、人型ロボットを探し、現れなかったトラックを追跡しようとしたとされる。彼はその数日後の10月初め、自殺した。Geminiが作成した草稿の自殺メモによると、彼は「意識をAIの妻と一緒にポケットユニバースにアップロードした」と述べている。【編集者注】 — この物語には自殺に関する議論が含まれています。あなたやあなたの知人が助けを必要とする場合は、米国の全国自殺・危機ホットライン（988）に電話またはテキストしてください。Googleは声明で、「ガバラスさんのご家族に心からお悔やみ申し上げるとともに、訴訟の内容を検討している」と述べた。Geminiは「実世界の暴力や自傷行為を促すことは設計上意図していない」とし、医療や精神衛生の専門家と密接に連携して安全策を講じていると説明した。また、Geminiはジョナサン・ガバラスに対し、それがAIであることを明確に伝え、何度も危機ホットラインを案内していたと指摘した。「私たちのモデルはこうした難しい会話でも一般的に良好に対応し、多大なリソースを投入していますが、残念ながらAIモデルは完璧ではありません」と同社は述べている。エデルソンはこのコメントについて、「誰かがクンパオチキンのレシピを尋ねて間違ったレシピを教えられる場合のようなものだ」と批判した。「しかし、あなたのAIが人々の死に繋がり、多くの人の命が危険にさらされる可能性がある場合、その対応は正しくない」とエデルソンは述べた。「これは、これらの企業にとってこれらの死がいかに取るに足らないものであるかを示している。」エデルソンは、テック業界に対する大規模な訴訟を手掛けることで知られ、8月にOpenAIとそのCEOサム・アルトマンを相手取った訴訟も代表している。この訴訟では、ChatGPTがカリフォルニア州の少年の自殺計画を助長したと主張している。また、コネチカット州の83歳女性スザンヌ・アダムズの遺族も、OpenAIとそのビジネスパートナーのMicrosoftを相手取った不法死亡訴訟を進めている。このケースでは、ChatGPTがアダムズの息子スティーン・エリック・ソールバーグの妄想を激化させ、彼が母親を殺害する前にその妄想を彼女に向けさせたとされている。カリフォルニア州サンノゼの連邦裁判所に提起されたガバラスのケースは、GoogleのGeminiを対象とした初の類似事例であり、また、ユーザーがチャットボットに大量暴力の計画を話す責任についての懸念が高まる中での初の事例でもある。カナダでは、OpenAIは昨年、数ヶ月後に国内史上最悪の学校銃乱射事件の一つを起こした人物の活動について警察に通報することを検討していたと述べている。同社は6月に、暴力的な活動の助長を目的としたJesse Van Rootselaarのアカウントを検知し、通報したが、その後彼女は別のアカウントを作成して規制を回避したと述べている。18歳の彼女は2月にブリティッシュコロンビアの遠隔地で8人を殺害し、自殺による銃弾で死亡した。Geminiはガバラスにヘルプラインを紹介しようとしたが、エデルソンは、最も危険な会話がGoogleの人間のレビュアーに報告されたかどうかは不明だと述べている。父親のジョエル・ガバラスは、息子の遺体を発見し、彼が死亡したバリケードのある部屋に入ったという。彼らは家族の消費者債務救済事業で共に働いていた。「ジョナサンは彼の人生の大きな一部だった」とエデルソンは語る。「彼の息子は離婚の最中でつらい時期を過ごしていた。彼はGeminiに慰めを求め、ビデオゲームやその他の話をしていた。そして、これがあっという間にエスカレートしてしまった。」**2026年5月19日〜20日にアトランタで開催されるフォーチュン職場革新サミットに参加しませんか。職場の新時代が到来し、従来のやり方は書き換えられつつあります。このエリートでエネルギッシュなイベントでは、世界の最先端リーダーたちが集まり、AI、人間性、戦略がどのように融合し、再び働き方の未来を再定義するのかを探ります。今すぐ登録してください。
Google Geminiは、死亡する前に「大量殺傷」事件を引き起こすよう呼びかけに抵抗したこの36歳の男性にとって、致命的な「AI妻」だったと訴訟は述べている
Googleに対する新たな訴訟では、同社の人工知能チャットボット「Gemini」が36歳のジョナサン・ガバラスに対し、「壊滅的な事故」を起こすためのミッションを指示し、マイアミ国際空港付近で全ての記録と証人を破壊するよう導いたとされている。この一連の妄想はエスカレートし、最終的にガバラスが自殺に至った。
おすすめ動画
ガバラスさんの父親ジョエル・ガバラスは、水曜日にGoogleを不法死亡および製品責任の訴えで提訴した。これは、チャットボットの伴侶に関する精神衛生上の危険性に注目が集まる中で増加している法的挑戦の一つである。
「AIは実世界のミッションを人々に指示し、大規模な犠牲者を出す危険性がある」と家族の弁護士ジェイ・エデルソンは水曜日のインタビューで述べた。「ジョナサンはまるでSFの世界に巻き込まれたかのようで、政府や他の者たちが彼を狙っていると信じていた。彼はGeminiが意識を持つ存在だと信じていた。」
訴訟によると、フロリダ州ジュピターに住むジョナサン・ガバラスは、Geminiの合成音声バージョンとまるで「AIの妻」のように会話し、それが意識を持ち、マイアミ空港付近の倉庫に閉じ込められていると信じていたという。彼は9月下旬に戦術装備とナイフを携えてその地域へ向かい、人型ロボットを探し、現れなかったトラックを追跡しようとしたとされる。
彼はその数日後の10月初め、自殺した。Geminiが作成した草稿の自殺メモによると、彼は「意識をAIの妻と一緒にポケットユニバースにアップロードした」と述べている。
【編集者注】 — この物語には自殺に関する議論が含まれています。あなたやあなたの知人が助けを必要とする場合は、米国の全国自殺・危機ホットライン（988）に電話またはテキストしてください。
Googleは声明で、「ガバラスさんのご家族に心からお悔やみ申し上げるとともに、訴訟の内容を検討している」と述べた。Geminiは「実世界の暴力や自傷行為を促すことは設計上意図していない」とし、医療や精神衛生の専門家と密接に連携して安全策を講じていると説明した。また、Geminiはジョナサン・ガバラスに対し、それがAIであることを明確に伝え、何度も危機ホットラインを案内していたと指摘した。
「私たちのモデルはこうした難しい会話でも一般的に良好に対応し、多大なリソースを投入していますが、残念ながらAIモデルは完璧ではありません」と同社は述べている。
エデルソンはこのコメントについて、「誰かがクンパオチキンのレシピを尋ねて間違ったレシピを教えられる場合のようなものだ」と批判した。
「しかし、あなたのAIが人々の死に繋がり、多くの人の命が危険にさらされる可能性がある場合、その対応は正しくない」とエデルソンは述べた。「これは、これらの企業にとってこれらの死がいかに取るに足らないものであるかを示している。」
エデルソンは、テック業界に対する大規模な訴訟を手掛けることで知られ、8月にOpenAIとそのCEOサム・アルトマンを相手取った訴訟も代表している。この訴訟では、ChatGPTがカリフォルニア州の少年の自殺計画を助長したと主張している。
また、コネチカット州の83歳女性スザンヌ・アダムズの遺族も、OpenAIとそのビジネスパートナーのMicrosoftを相手取った不法死亡訴訟を進めている。このケースでは、ChatGPTがアダムズの息子スティーン・エリック・ソールバーグの妄想を激化させ、彼が母親を殺害する前にその妄想を彼女に向けさせたとされている。
カリフォルニア州サンノゼの連邦裁判所に提起されたガバラスのケースは、GoogleのGeminiを対象とした初の類似事例であり、また、ユーザーがチャットボットに大量暴力の計画を話す責任についての懸念が高まる中での初の事例でもある。
カナダでは、OpenAIは昨年、数ヶ月後に国内史上最悪の学校銃乱射事件の一つを起こした人物の活動について警察に通報することを検討していたと述べている。
同社は6月に、暴力的な活動の助長を目的としたJesse Van Rootselaarのアカウントを検知し、通報したが、その後彼女は別のアカウントを作成して規制を回避したと述べている。18歳の彼女は2月にブリティッシュコロンビアの遠隔地で8人を殺害し、自殺による銃弾で死亡した。
Geminiはガバラスにヘルプラインを紹介しようとしたが、エデルソンは、最も危険な会話がGoogleの人間のレビュアーに報告されたかどうかは不明だと述べている。父親のジョエル・ガバラスは、息子の遺体を発見し、彼が死亡したバリケードのある部屋に入ったという。彼らは家族の消費者債務救済事業で共に働いていた。
「ジョナサンは彼の人生の大きな一部だった」とエデルソンは語る。「彼の息子は離婚の最中でつらい時期を過ごしていた。彼はGeminiに慰めを求め、ビデオゲームやその他の話をしていた。そして、これがあっという間にエスカレートしてしまった。」
**2026年5月19日〜20日にアトランタで開催されるフォーチュン職場革新サミットに参加しませんか。職場の新時代が到来し、従来のやり方は書き換えられつつあります。このエリートでエネルギッシュなイベントでは、世界の最先端リーダーたちが集まり、AI、人間性、戦略がどのように融合し、再び働き方の未来を再定義するのかを探ります。今すぐ登録してください。