News - تحسن OpenAI الإجراءات الأمنية بعد حادثة تومبلر ريدج

في أعقاب حادثة إطلاق النار الجماعي المأساوية في تامبلر ريدج، كولومبيا البريطانية، أعلنت شركة أوبن إيه آي الرائدة في مجال الذكاء الاصطناعي عن تحسينات كبيرة في بروتوكولات السلامة الخاصة بها. يهدف التحديث إلى الكشف عن السلوكيات المشبوهة عبر الإنترنت والإبلاغ عنها بشكل أكثر فعالية، والتي قد تحتوي على مؤشرات تنبؤية للأعمال العنيفة. كانت منصة أوبن إيه آي، ChatGPT، قد أبلغت سابقًا عن محتوى مقلق مرتبط بالمعتدي قبل أشهر من المأساة، على الرغم من أن الصلة بالأفعال الواقعية لم تصبح واضحة إلا بعد الحدث. أدى الانتقاد حول تعامل المنصة مع المحتوى المحتمل أن يكون ضارًا إلى دعوات لاتخاذ تدابير أكثر قوة واستباقية. ستستخدم الأنظمة الجديدة خوارزميات ذكاء اصطناعي متقدمة لمراقبة تفاعلات المستخدم المستمرة بحثًا عن علامات العنف أو التطرف، في محاولة للتخفيف من هذه المخاطر من خلال التعاون السريع مع وكالات إنفاذ القانون.