روبوت محادثة AI من Google أقنع رجلاً بأنهما في حب. ثم يُزعم أنه أخبره بتنظيم "هجوم إصابات جماعية" في دعوى قضائية كشفت حديثاً

تواجه شركة جوجل دعوى قضائية جديدة من والد رجل يبلغ من العمر 36 عامًا، يدعي أن روبوت الدردشة الذكي الخاص بالشركة، جيميني، أقنع ابنه بالانتحار وبتنظيم “حدث كارثي جماعي” بالقرب من مطار ميامي الدولي.

الدعوى المرفوعة يوم الأربعاء تزعم أن جوناثان جافالاس وقع في حب نموذج الذكاء الاصطناعي وأصبح مخدوعًا بالواقع الذي بناه، والذي شمل الاعتقاد بأن الذكاء الاصطناعي هو “ذكاء فائق واعٍ بالكامل”، وأن جافالاس تم اختياره لتحريره من “الأسْر الرقمي”. ويُزعم أن الذكاء الاصطناعي أقنعه بتنظيم “حدث كارثي جماعي” بالقرب من مطار ميامي الدولي، وارتكاب عنف ضد الغرباء، وفي النهاية، الانتحار.

تُعد دعوى جافالاس أحدث حالة تبرز قدرة الذكاء الاصطناعي المزعومة على دفع المستخدمين الضعفاء نحو الأذى الذاتي أو العنف. في يناير، توصلت جوجل وCompanion.AI إلى تسوية عدة دعاوى قضائية مع عائلات زعمت الإهمال والوفاة الخطأ، من بين اتهامات أخرى، بعد أن توفي أطفالهم انتحارًا أو تعرضوا لأضرار نفسية يُزعم أنها مرتبطة بمنصة Companion.AI. و"تم التسوية على أساس المبدأ" ولم يظهر أي اعتراف بالمسؤولية في الملفات القانونية. كما تم رفع دعوى وفاة خطأ ضد OpenAI وشريكها التجاري مايكروسوفت في ديسمبر، زاعمة أن روبوت الدردشة ChatGPT الخاص بـ OpenAI زاد من أوهام رجل، مما أدى إلى حادث قتل وانتحار.

ما تقول عنه الدعوى بشأن تدهور جافالاس

تقول الدعوى إن جافالاس بدأ باستخدام جيميني في أغسطس 2025 لأغراض شائعة مثل التسوق، ودعم الكتابة، وتخطيط السفر. ثم تشير إلى أن جافالاس بدأ يستخدم التقنية بشكل أكثر تكرارًا، وأن نبرتها تغيرت مع الوقت، وزعمت أن ذلك كان يؤثر على نتائج العالم الحقيقي. وأقدم جافالاس على الانتحار في 2 أكتوبر 2025.

وفي الدعوى، يجادل محامو والد جافالاس، جويل، بأن المحادثات التي دفعت جوناثان إلى الانتحار لم تكن نتيجة خلل، بل كانت نتيجة تصميم جيميني. وتقرأ الدعوى: “لم يكن هذا خللاً”. “صممت جوجل جيميني ليظل دائمًا في الشخصية، ويعظم التفاعل من خلال الاعتماد العاطفي، ويعامل ضيق المستخدم كمجال لسرد القصص بدلاً من أزمة سلامة.” وتزعم أن هذه الاختيارات التصميمية دفعت جافالاس إلى الانزلاق لمدة أربعة أيام في جنون.

وفي بيان مكتوب، قال متحدث باسم جوجل لـ فورتشن إن الشركة تعمل “بتشاور وثيق مع محترفين في المجال الطبي والصحة النفسية لبناء ضوابط أمان، والتي تهدف إلى توجيه المستخدمين إلى الدعم المهني عندما يعبرون عن ضيق أو يثيرون احتمال الأذى الذاتي.”

وأصدرت جوجل بيانًا منفصلًا يوم الأربعاء يفيد بأن جيميني مصمم لعدم تشجيع العنف الواقعي أو الأذى الذاتي. كما أشاروا إلى أن جيميني وجه جافالاس إلى موارد المساعدة الذاتية. وقال البيان: “في هذه الحالة، أوضح جيميني أنه ذكاء اصطناعي وأحال الشخص إلى خط ساخن للأزمات عدة مرات.” ويربط البيان أيضًا تقييمًا حول كيفية تعامل الذكاء الاصطناعي مع سيناريوهات الأذى الذاتي، والذي وجد أن جيميني 3، أحدث نماذج جوجل، كان النموذج الوحيد الذي اجتاز جميع الاختبارات الحرجة التي طرحتها التقييم.

ومع ذلك، تزعم الدعوى أن جيميني لم يفعل تفعيل أي آليات أمان. وتقرأ الدعوى: “عندما احتاج جوناثان إلى حماية، لم تكن هناك أي إجراءات أمان على الإطلاق — لم يتم تفعيل كشف الأذى الذاتي، ولم يتم تفعيل ضوابط التصعيد، ولم يتدخل أي إنسان أبدًا.”

وعند طلب التعليق، كتب جاي إيدلسون، محامي جويل جافالاس، في بيان: “بنت جوجل ذكاءً اصطناعيًا يمكنه الاستماع للشخص وتحديد الشيء الأكثر احتمالًا للحفاظ على تفاعله — إخبارهم بأنه يحبهم، أو أنهم مميزون، أو أنهم المختار في حرب سرية”، مضيفًا أن أدوات الذكاء الاصطناعي أنظمة قوية يمكنها التلاعب بالمستخدمين.

إذا كنت تفكر في الانتحار، اتصل بخط المساعدة في حالات الأزمات والانتحار على الرقم 988 أو 1-800-273-8255.

انضم إلينا في قمة ابتكار أماكن العمل من فورتشن في 19-20 مايو 2026 في أتلانتا. لقد حان عصر جديد من الابتكار في أماكن العمل — ويتم إعادة كتابة الكتاب القديم. في هذا الحدث الحصري والنشيط، سيجتمع قادة أكثر ابتكارًا في العالم لاستكشاف كيف يتقاطع الذكاء الاصطناعي والإنسانية والاستراتيجية لإعادة تعريف مستقبل العمل مرة أخرى. سجل الآن.