قبل حادثة إطلاق النار في كندا.. رسائل ChatGPT كشفت نية المشتبه بها
في واحدة من أسوأ حوادث إطلاق النار الجماعي في كندا، حظرت شركة الذكاء الاصطناعي "أوبن إيه آي" حساب المشتبه بها جيسي فان روتسيلار على منصة "شات جي بي تي"، بعد اكتشاف تفاعلاتها المخالفة لسياسة الاستخدام في يونيو من العام الماضي، دون إبلاغ السلطات.
وكانت جيسي فان روتسيلار، البالغة من العمر 18 عامًا، قد قتلت ثمانية أشخاص وأصابت نحو 25 آخرين قبل أن تنتحر في بلدة تومبلر ريدج النائية بغرب كندا، وفقًا للشرطة الكندية وتم اكتشاف حسابها منذ نحو ثمانية أشهر عبر أنظمة تفحص سوء الاستخدام، بما في ذلك احتمال مساهمتها في أنشطة عنيفة.
وخلال استخدام فان روتسيلار للمنصة في يونيو، وصفت سيناريوهات تتعلق بالعنف باستخدام الأسلحة النارية على مدار عدة أيام، ما أثار قلق أنظمة المراجعة الآلية لمراقبة سوء الاستخدام. وأشار التقرير إلى أن التفاعلات كانت كافية لإثارة مخاوف موظفي "أوبن إيه آي" حول احتمال وقوع عنف في العالم الحقيقي.
جرى نقاش داخلي بين نحو عشرة موظفين حول ضرورة اتخاذ إجراء، حيث اقترح بعضهم إبلاغ سلطات إنفاذ القانون الكندية، لكن في النهاية قررت الإدارة عدم الاتصال بالشرطة. وفسر بعض الموظفين كتابات فان روتسيلار على أنها تحذير مبكر لم يحقق معايير الخطر المباشر.
وقالت متحدثة باسم "أوبن إيه آي" إن الشركة حظرت حساب فان روتسيلار، لكنها رأت أن نشاطها لا يشكل خطرًا حقيقيًا ومباشرًا يستدعي الإبلاغ إلى السلطات. وأضافت أن معايير الإبلاغ تتطلب وجود تهديد واضح لإلحاق أذى جسدي خطير بالآخرين.
الحادثة أثارت جدلًا واسعًا حول مسؤولية شركات الذكاء الاصطناعي في مراقبة المستخدمين المحتمل أن يشكلوا تهديدًا، ودور أنظمة المراجعة الآلية في التنبيه المبكر للأنشطة العنيفة، خاصة بعد النتائج المأساوية لهذه الواقعة.
تعليق